JP3807181B2 - 論理的関係の指示維持方法及びシステム - Google Patents
論理的関係の指示維持方法及びシステム Download PDFInfo
- Publication number
- JP3807181B2 JP3807181B2 JP36962399A JP36962399A JP3807181B2 JP 3807181 B2 JP3807181 B2 JP 3807181B2 JP 36962399 A JP36962399 A JP 36962399A JP 36962399 A JP36962399 A JP 36962399A JP 3807181 B2 JP3807181 B2 JP 3807181B2
- Authority
- JP
- Japan
- Prior art keywords
- digital ink
- view
- annotation
- ink annotation
- control routine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/169—Annotation, e.g. comment data or footnotes
Description
【発明の属する技術分野】
本発明は、変化するビューをディスプレイする電子システムに関する。詳細には、本発明は、電子メディアにおいて自由形式デジタルインク注釈付けを行うことを可能にし、メディアの変化するビューにおいて自由形式デジタルインク注釈とオブジェクトとの論理的関係を維持することに関する。
【0002】
【従来の技術】
紙文書の自由形式インク注釈付けは、思考プロセス、類別プロセス、レビュープロセスを含むドキュメントワークを多くの面で手助けするので、広く行われている。要するに、自由形式インク注釈付けは、有力なコンプリヘンション(理解用)ツールであるということが判明した。紙文書や紙に似た文書(例えば、PDF、ポストスクリプト、イメージファイルなど)は、スタティックなレイアウト及び内容を有する。このような文書はスタティックな性質を有するため、注釈付けは単純である。
【0003】
しかし、我々が使用する文書の種類は、コンピュータを使ってディスプレイ上でデジタル式に作成され、示されることがますます多くなっている。このような文書は、たいていダイナミックである。従って、ディスプレイ中のオブジェクトに対する注釈の関係を正確に表現することは、ディスプレイが変化するため、不可能であった。例えば、ワードプロセッサ文書のディスプレイは、文書が修正されると、変わる。同様に、1995年5月のヒューマンファクターズ及びコンピューティングシステムズ(Human Factors and Computing Systems)に関するACM SIGCHIコンフェレンスの会報の中の「大きな組織図をビジュアル化するための双曲幾何学に基づくフォーカス+コンテキストテクニック(A Focus + Context Technique Based on Hyperbolic Geometry for Visualizing Large Hierarchies)」という論文中でLamping他により示されたハイパボリックブラウザのような情報ビジュアル化システムは、情報スペースをユーザが進むにつれて、文書のディスプレイが変化する。
【0004】
チボリ(Tivoli)として知られている自由形式デジタルインクホワイトボードは、UIST '97、ACMプレスにおいて、Moran他による「エレクトロニックホワイトボードにおいて材料を組織化するためのペンベースの対話技術(Pen-Based Interaction Techniques For Organizing Material on an Electronic Whiteboard)」に開示されている。チボリでは、ユーザはディスプレイ中の2つの領域同士の間のコネクション(関係)を識別することができ、そのコネクションは、それらの領域が移動され、ディスプレイが変わっても維持される。他のインク識別領域を囲むサークルマークと、2つの領域の境界を連結する自由形式デジタルインクマークは、それらの2つの領域同士の間のコネクションを形成する。このコネクションは、それらの領域が移動しても持続され、チボリは連結マークの形状を維持するように働く。
【0005】
文書のナビゲーションをアシストするために、従来のシステムは、1セットのブックマークタイプを使用する。このようなナビゲーションシステムの例は、IEEE 1996 バーチャルリアリティ定例国際シンポジウム(IEEE 1996 Visual Reality Annual International Symposium)の議事録239〜245ページ(1996年)の、ハルマン(Harmon)他による”Visual Annotation System”と、UIST '97のビデオ会報21〜30ページ(1997)の、エルビンズ(Elvins)他による”Worldlets: 3D Thumbnails for Wayfinding in Virtual Environments”において、示されている。ユーザはコメントする前に注釈コマンドを特定する必要があるので、これらのシステムにより、ユーザはナビゲーションシステムと自由に対話することができる。
【0006】
最近のシステムは、3つの方法のうちの少なくとも1つにより、変化するビュー又はディスプレイ上で自由形式デジタルインク注釈を管理する(「ビュー」及び「ディスプレイ」という言葉は、本願を通じて互換性を持たせて使用する)。スタティックなアプローチとして知られる第1の方法は、単一のビューと関連するようにインク注釈を処理する。ドキュメントの表示又は内容が変わると、注釈は消滅するか、元のポジションに残るかのどちらかである。UIST '93(1993)の議事録においてハードック(Hardock)他による”A Marking Based Interface for Collaborative Writing”で開示された「MATE」として知られるシステムは、スタティックな注釈付けされたバージョンと、注釈のない変化されるバージョンと、そしてこれら2つのバージョンの間の論理的リンクとを維持することにより、変化する内容をアドレスする。
【0007】
スナップショートアプローチとして知られる第2の方法は、個別に注釈付けされることのできる一連のスタティックスナップショットとして、ダイナミックビューを処理する。このアプローチの例は、「ヒューマンコンピュータインタフェースデザイン(モルガンコーフマン出版社(Morgan Kaufman Publisher)(1996))」において、Francik著の”Rapid, Integrated Design of a Multimedia Communication System”で開示されたWangフリースタイルを含む。
【0008】
第3の方法は、一時的関連づけアプローチとして知られ、インク注釈をビューから分離させ、一時的に2つをリンクすることにより、指定時につけられたマークをその時にビューと関連づける。この方法の例は、CHI '94、ACMプレス(1994年4月)の会報の中の、ウェバー(Weber)他による”Marquee:A Tool for Real−Time Video Logging”と、CHI '97、ACMプレス(1997年)の会報の中の、シリット(Schilit)他による”Dynomite:A Dynamically Organized Ink and Audio Notebook”に開示されている。
【0009】
【発明が解決しようとする課題】
自由形式デジタルインク注釈付けを行うことのできる従来のインタフェースでは、注釈と関連づけられたオブジェクトとの間の論理的関係の指示は、ビューが変化すると、維持されない。例えば、ユーザがドキュメントのテキストに注釈付けし、その後、注釈付けされたテキストが行をまたぐと、注釈はテキストの行をまたいだ部分には追随しない。従って、注釈付けされたテキストに潜在的な論理的関係があっても、新たなビューのレイアウトは、テキストの注釈との間のこの論理的関係を示さない。
【0010】
従来技術として述べたシステムもまた、ビューが変化した場合に、注釈と関連づけられたオブジェクトとの間の論理的関係の指示を維持しない。チボリは、注釈付けされた領域が移動され、ディスプレイが変化すると、自由形式デジタルインク注釈を維持しない。むしろ、チボリは、ある特定タイプの注釈のみ、即ち、ある領域の別の領域に対する境界からのシングルストロークだけを維持する。この制限により、変化するディスプレイにおいて自由形式デジタルインク注釈を使用して、移動するオブジェクトをラベル付けしたり、ナビゲーションを促進したりすることができない。
【0011】
MATEは、自由形式デジタルインク注釈と対応する基礎となるテキストとの間の論理的関係を維持するが、ビューが変化した場合には、このような論理的関係の指示を維持しない。
【0012】
フリースタイルは、同一ドキュメントとの新たなビューに対しては、自由形式デジタルインク注釈付けを実行することができない。
【0013】
Dynomiteは、ビュー上で直接的には注釈付けすることができないので、注釈は、ビューに対する変化に従って新たなビューにはレンダリングされない。
【0014】
【課題を解決するための手段】
本発明の方法及びシステムは、変化するビューにおいて、自由形式デジタルインク注釈とオブジェクトとの間のレイアウト関係を維持する。ユーザがビュー上で自由形式のデジタルインク注釈付けを行う時とビューが変化する時に、本発明の方法及びシステムは、この変化に従ってマークを適応させる。よって、あるビューにおいて付けられた自由形式デジタルインク注釈とオブジェクトとの間の論理的関係は、レイアウト関係に基づいて、これから先のビューの中でも理解することができる。
【0015】
本発明の方法及びシステムはまた、例えばビデオ及び対話式バーチャルワールドのようなダイナミックメディアにおいて自由形式デジタルインク注釈とオブジェクトとの間の論理的関係の表示を維持する。例えば、ハイパーボリックブラウザで情報スペースを探索しているユーザが、ツリーのノードに自由形式デジタルインク注釈付けを行う場合、ユーザがディスプレイを変えて、ツリーの別の部分に焦点を当てると、自由形式デジタルインク注釈がツリーと共に回転及びスケーリングして、自由形式デジタルインク注釈のノードに対する論理的関係が指示され続ける。
【0016】
本発明の方法及びシステムは、注釈を付けられたオブジェクトのビューが変化する時に、ビュー中の自由形式デジタルインク注釈とオブジェクトとの間の論理的関係の指示を維持する。本発明により、用紙上で行うマーキングの経験を、ダイナミックメディア、ワードプロセッサドキュメント、情報のビジュアル化、バーチャルワールド、デジタルビデオ、及びワードプロセッサにも活かせる。
【0017】
本発明のシステム及び方法は、自由形式デジタルインク注釈に論理的に関連づけられたオブジェクトが消去されたり、挿入されたり、コピーされたり、移動されたり、あるいは他の方法で変更されたとしても、論理的関係の指示を維持する。また、本発明のシステム及び方法は、ディスプレイ中のオブジェクトのリフロー、スケーリング、サイズ変化、回転、伸長、歪曲、変形といった場合や、レイアウト表示の他の点が変更された場合に、これらの変更が別々に起ころうが連続的に起ころうが、論理的関係の指示を維持する。
【0018】
さらに、本発明のシステム及び方法の別例の実施の形態では、自由形式デジタルインク注釈が、ダイナミックドキュメントを航行するための有力なツールとなる航行上のマーカが提供される。ユーザは、任意のビューの中で自由形式デジタルインク注釈を選択でき、ディスプレイは、選択された自由形式デジタルインク注釈が付された時の状態に戻される。
本発明の第1の態様は、ビューが変化する時に、ビューにおける少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係の指示を維持する方法であって、前記指示が、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係であり、前記方法が、
第1ビュー中の少なくとも1つの自由形式デジタルインク注釈と少なくとも1つのオブジェクトとのレイアウト関係に基づいて、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係をマッピングするステップを含み、
第2ビューを生成するステップを含み、
前記第2ビューの生成に応答して、少なくとも1つの自由形式デジタルインク注釈をレンダリングするステップを含み、第2ビュー中の少なくとも1つの自由形式デジタルインク注釈と少なくとも1つのオブジェクトのレイアウト関係が、第1ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するマッピングされた論理的関係に基づく、
ことを特徴とする。
第2の態様は、第1の態様において、少なくとも1つのオブジェクトが、エレクトロニックブック及びドキュメントリーダ中にある、ことを特徴とする。
第3の態様は、第1の態様において、少なくとも1つのオブジェクトがワードプロセッサ中にある、ことを特徴とする。
第4の態様は、第1の態様において、第2ビューが、ドキュメントの構造における変化に応答して生成される、ことを特徴とする。
第5の態様は、第1の態様において、第2ビューが、ドキュメントのレイアウトにおける変化に応答して生成される、ことを特徴とする。
第6の態様は、第1の態様において、マッピングするステップが、少なくとも1つの自由形式デジタルインク注釈に対するアンカを作成することが含む、ことを特徴とする。
第7の態様は、第1の態様において、マッピングするステップが、少なくとも1つの自由形式デジタルインク注釈を複数のサブストロークに分割するステップを含み、各サブストロークが、オブジェクトに近接する注釈の部分に対応し、
第1ビュー中の複数のサブストロークの各々の少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、複数のサブストロークの各々に対するアンカを作成するステップを含む、
ことを特徴とする。
第8の態様は、第7の態様において、サブストローク同士の間に接続ラインを生成するステップをさらに含む、ことを特徴とする。
第9の態様は、第7の態様において、少なくとも1つのオブジェクトが少なくとも2つのオブジェクトに分割され、レンダリングが、第2ビュー中の少なくとも2つのオブジェクトの分離に応答し、少なくとも1つの自由形式デジタルインク注釈が、少なくとも2つの自由形式デジタルインク注釈の分割されて、その各々が少なくとも2つのオブジェクトのうちの少なくとも1つに対応する、ことを特徴とする。
第10の態様は、第1の態様において、少なくとも1つのオブジェクトが、少なくとも2つのオブジェクトを含み、第2ビューが、少なくとも2つのオブジェクトの併合に応答する、ことを特徴とする。
第11の態様は、第1の態様において、第2ビューが、少なくとも1つのオブジェクトを少なくとも1つの新たなオブジェクトと置き換えることに応答する、ことを特徴とする。
第12の態様は、第1の態様において、マッピングが、少なくとも1つの自由形式デジタルインク注釈の形状と、少なくとも1つの自由形式デジタルインク注釈のオブジェクトへの近接とに依存する、ことを特徴とする。
第13の態様は、第12の態様において、少なくとも1つの自由形式デジタルインク注釈が、アンダーライン及び取り消し注釈のうちの1つである、ことを特徴とする。
第14の態様は、第12の態様において、少なくとも1つの自由形式デジタルインク注釈が、挿入注釈である、ことを特徴とする。
第15の態様は、第12の態様において、少なくとも1つの自由形式デジタルインク注釈が、コネクタ注釈である、ことを特徴とする。
第16の態様は、第1の態様において、マッピングが、ビュー中の少なくとも1つの自由形式デジタルインク注釈のロケーションに依存する、ことを特徴とする。
第17の態様は、第16の態様において、ロケーションが、第1ビューのマージン内にある、ことを特徴とする。
第18の態様は、第1の態様において、第2ビュー中の少なくとも1つの自由形式デジタルインク注釈の選択に応答して、第1ビューをディスプレイするステップをさらに含む、ことを特徴とする。
第19の態様は、第1の態様において、少なくとも1つの自由形式デジタルインク注釈が、少なくとも2つの自由形式デジタルインク注釈を含み、少なくとも1つのオブジェクトが、少なくとも2つのオブジェクトを含み、その各々が少なくとも2つの自由形式デジタルインク注釈に対応し、前記方法が、対応する少なくとも2つのオブジェクトが併合する時に、少なくとも2つの自由形式デジタルインク注釈を併合して単一の自由形式デジタルインク注釈にするステップをさらに含む、ことを特徴とする。
第20の態様は、ビューが変化する時に、ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係の指示を維持するシステムであって、前記指示が、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係であり、前記システムが、
少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係をディスプレイするディスプレイを含み、
ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、少なくとも1つのオブジェクトに少なくとも1つの自由形式デジタルインク注釈をマッピングするプロセッサを含み、前記ディスプレイが、第1ビューにおける変化に応答して、第2ビューを生成し、第2ビューにおいて少なくとも1つの自由形式デジタルインク注釈をレンダリングし、第2ビュー中の少なくとも1つの自由形式デジタルインク注釈と少なくとも1つのオブジェクトのレイアウト関係が、第1ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するマッピングされた論理的関係に基づく、
ことを特徴とする。
第21の態様は、第20の態様において、前記システムが、ワードプロセッサである、ことを特徴とする。
第22の態様は、第20の態様において、前記システムが、エレクトロニックブック及びドキュメントリーダである、ことを特徴とする。
第23の態様は、第20の態様において、前記ディスプレイ及び前記プロセッサを保持するハウジングをさらに含み、前記ハウジングが、システムを携帯できるほど小さいサイズである、ことを特徴とする。
第24の態様は、第23の態様において、ポインティングデバイスをさらに含む、ことを特徴とする。
第25の態様は、第20の態様において、第1ビューにおける変化が、ドキュメントの構造における変化である、ことを特徴とする。
第26の態様は、第20の態様において、第1ビューにおける変化が、ドキュメントのレイアウトにおける変化である、ことを特徴とする。
第27の態様は、第20の態様において、前記プロセッサが、少なくとも1つの自由形式デジタルインク注釈に対するアンカを作成することにより、少なくとも1つの自由形式デジタルインク注釈をマッピングする、ことを特徴とする。
第28の態様は、第20の態様において、前記プロセッサが、少なくとも1つの自由形式デジタルインク注釈を複数のサブストロークに分割することにより、少なくとも1つの自由形式デジタルインク注釈をマッピングし、各サブストロークが、オブジェクトに近接する注釈の部分に対応し、
第1ビュー中の複数のサブストロークの各々の少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、複数のサブストロークの各々に対するアンカを作成する、
ことを特徴とする。
第29の態様は、第28の態様において、前記プロセッサが、サブストローク同士の間に接続ラインを生成することができる、ことを特徴とする。
第30の態様は、第28の態様において、第2ビューが、少なくとも1つのオブジェクトの少なくとも2つのオブジェクトへの分割と、少なくとも2つのオブジェクトの分離とに応答して生成され、少なくとも1つの自由形式デジタルインク注釈が、少なくとも2つの自由形式デジタルインク注釈に分割され、その各々が、少なくとも2つのオブジェクトのうちの少なくとも1つに対応する、ことを特徴とする。
第31の態様は、第20の態様において、第2ビューが、少なくとも1つのオブジェクトを少なくとも1つの新たなオブジェクトと置き換えることに応答して生成される、ことを特徴とする。
第32の態様は、第20の態様において、少なくとも1つのオブジェクトが、少なくとも2つのオブジェクトを含み、第2ビューが、少なくとも2つのオブジェクトの併合に応答する、ことを特徴とする。
第33の態様は、第20の態様において、前記プロセッサが、少なくとも1つの自由形式デジタルインク注釈の形状と、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトへの近接とに依存してマッピングする、ことを特徴とする。
第34の態様は、第33の態様において、少なくとも1つの自由形式デジタルインク注釈が、アンダーライン及び取り消し注釈のうちの1つである、ことを特徴とする。
第35の態様は、第33の態様において、少なくとも1つの自由形式デジタルインク注釈が、挿入注釈である、ことを特徴とする。
第36の態様は、第33の態様において、少なくとも1つの自由形式デジタルインク注釈が、コネクタ注釈である、ことを特徴とする。
第37の態様は、第20の態様において、前記プロセッサが、ビュー中の少なくとも1つの自由形式デジタルインク注釈のロケーションに依存してマッピングする、ことを特徴とする。
第38の態様は、第37の態様において、前記ロケーションが、第1ビューのマージン内にある、ことを特徴とする。
第39の態様は、第20の態様において、少なくとも1つの自由形式デジタルインク注釈が、少なくとも2つの自由形式デジタルインク注釈を含み、少なくとも1つのオブジェクトが、少なくとも2つのオブジェクトを含み、その各々が、少なくとも2つの自由形式デジタルインク注釈のうちの1つに対応し、前記プロセッサが、少なくとも2つのオブジェクトの併合に応答して、少なくとも2つの自由形式デジタルインク注釈を併合して、単一の自由形式デジタルインク注釈にする、ことを特徴とする。
第40の態様は、第20の態様において、前記ディスプレイがさらに、第2ビュー中の少なくとも1つの自由形式デジタルインク注釈の選択に応答して、第1ビューをディスプレイする、ことを特徴とする。
【0019】
【発明の実施の形態】
図1は、本発明の電子システム10の実施の形態の一例を示す。電子システム10は、メモリ14と通信するプロセッサ12を含み、メモリ14は本発明を実行するためのプログラム、ドキュメント、及び他のデータを格納する。プロセッサ12はまた、入力/出力デバイス(I/O)24を介して、ディスプレイ16、キーボード18、マウス20、及びペン22と通信する。キーボード18、マウス20、ペン22、及び他の任意のインタフェースデバイス(図示せず)がユーザにより操作されて、電子システム10の動作が制御される。電子システム10の制御は、示されるインタフェースデバイスに制限されないと共に、特定のインタフェースデバイスを必要とすることもない。ディスプレイ16は、スタンドアロン(独立型)ペンコンピュータか、従来のコンピュータにケーブルで接続されたタブレット、又は他の任意のタイプのディスプレイであってよい。
【0020】
図1に示すように、システム10は、プログラミングされた汎用コンピュータを用いて実行されるのが好ましい。しかし、システム10は、特定目的コンピュータ、プログラミングされたマイクロプロセッサ又はマイクロコントローラ、及び任意の必要な周辺集積回路、ASIC又は他の集積回路、例えば個別エレメント回路のようなハードワイヤエレクトロニック又は論理回路、例えば、PLD、PLA、EPGA、PAL等のプログラマブル論理デバイスであることも可能である。一般に、図4〜図11で示すフローチャートを実行することのできる有限状態マシンを有する任意のデバイスを用いて、システム10を実行することができる。
【0021】
さらに、図1で示すように、メモリ14は、スタティック又はダイナミックRAMを用いて実行されるのが好ましい。しかし、メモリ14はまた、フロッピーディスク及びディスクドライブ、書き込み可能な光学ディスク及びディスクドライブ、ハードドライブ、フラッシュメモリ等を用いて実行されることもできる。さらに、メモリ14は、シングルメモリでも物理的離散メモリでもよいことを理解されたい。
【0022】
さらに、メモリ14、ディスプレイ16、キーボード18、マウス20、ペン22、及び入力/出力デバイス24をプロセッサ12に接続するリンク26、28、30、32、34、36は、ネットワーク(図示せず)にワイヤリンクされてもよいし、ワイヤレスリンクであってもよいことを理解されたい。これらのネットワークは、ローカルエリアネットワーク、ワイドエリアネットワーク、イントラネット、インターネット、又は他の任意の分散型処理及び格納ネットワークであることができる。
【0023】
図2の(A)は、ハイパーボリックブラウザ40のビューのディスプレイを示す。ディスプレイ40は、自由形式デジタルインク注釈42を含む。図2の(B)は、図2の(A)で示すドキュメントの代替ビューを示す。ビュー中の自由形式デジタルインク注釈のレイアウト表示がドキュメント40中のオブジェクトのビューの変化と対応して、自由形式デジタルインク注釈42とオブジェクトとの間の論理的関係の表示を維持するように、自由形式デジタルインク注釈42がスケーリング及び移動されている。
【0024】
図3の(A)は、自由形式デジタルインク注釈54、56、及び58を有するドキュメント52の第1ビュー50を示す。図3の(B)は、訂正された後のドキュメント52の第2ビュー60を示す。図3の(B)は、自由形式デジタルインク注釈54、56及び58が、本発明の実施の形態により、ドキュメント52中のオブジェクトに対する論理的関係に従って調整されることを示す。図3の(A)で示すドキュメント52の内容が編集されて、”is so much fun todo”というテキストが62の位置に挿入され、64の位置の約2行のテキストが消去された。このような編集に応答して、54の位置の注釈付けされたテキストは、2行にまたがり、「取り消し線」の自由形式デジタルインク注釈54が基礎をなすテキストオブジェクトと共に次の行にまたがり、「取り消し線」の自由形式デジタルインク注釈54と基礎をなすテキストオブジェクトとの間の論理的関係が示し続けられている。本発明はまた、58の位置のインクストロークグループがマージンにおけるノートであることを認識し、システムは、このマージンにおけるマージンノート58の垂直方向位置をわずかに調整して、マージンノート58とリフローされた行との間の論理的関係を示し続けている。さらに、自由形式デジタルインク注釈56は、66の位置のアンカポイントと68の位置のアンカポイントとの間で行が消去されたことに適応するように調整されて、テキストに対する論理的関係を示し続けている。
【0025】
本発明の方法及びシステムの実施の形態は、少なくとも一つの3ステッププロセスを含む。第1ステップは、第1ビューにおいて自由形式デジタルインク注釈をオブジェクトに付加することである。第2ステップは、自由形式デジタルインク注釈のセグメントをビュー中の対応するオブジェクトにマッピングすることを含む。第3ステップは、ディスプレイが変化した時に、自由形式デジタルインク注釈と対応するオブジェクトとの間の論理的関係の表示を維持するように、自由形式デジタルインク注釈を移動したり、スケーリングしたり、あるいは変形したりすることを含む。
【0026】
任意ではあるが、本発明の実施の形態において、自由形式デジタルインク注釈をナビゲーションマーカとして用いることもできる。例えば、ユーザはビューにおいて注釈を選択し、その注釈が作成されたときに存在した注釈付きビューに戻ることもできる。
【0027】
本発明の実施の形態の変化するビューにおけるオブジェクトの自由形式インク注釈は、ビューに対するオブジェクトモデルに依存する。図2の(A)及び(B)の例では、オブジェクトはハイパーボリックブラウザにおけるノードである。図3の(A)及び(B)の例では、オブジェクトは、テキストキャラクタである。第3の例(図示せず)では、オブジェクトは、ビデオデータストリームにおいて実行されるオブジェクトトラッキングシステムからの出力である。
【0028】
本発明の方法及びシステムの実施の形態は、基礎となるドキュメントにおいてアンカを配置することにより、ビュー中のオブジェクトに自由形式デジタルインク注釈をマッピングする。例えば、単純に囲みマーク、ハイライト、あるいは取り消し線マーク等は、ビュー中の自由形式デジタルインク注釈によりカバーされるキャラクタポジションの対応するスパンにアンカされる。図3の(A)及び(B)で示す例では、マージンにおけるコメント58は、対応するワード又はキャラクタ全ての近くのマージンにおけるドキュメント中の位置にアンカされる。
【0029】
さらに複雑な自由形式デジタルインク注釈は、いくつかのアンカを有することが可能である。例えば、図3の(A)で示すように、矢印66につながれたサークル68を含む自由形式デジタルインク注釈56について考える。サークル68は、サークルにより選択されるワード又はキャラクタのスパンにアンカされ、矢印66の先はその端点にアンカされるが、サークル68と矢印66の先を結合するラインはアンカされない。
【0030】
さらに複雑な自由形式デジタルインク注釈は、バーチャルワールド中の移動するオブジェクトに対する論理的関係を含み得る。このような注釈付けの例は、バーチャルワールドにおける部屋に対するドアの自由形式デジタルインク注釈付けを含む。ドアのレイアウトは、ドアが開閉されと、バーチャルワールドのビュー中で変化する。本発明の実施の形態の方法及びシステムは、ドアのビューが変化した時に自由形式デジタルインク注釈とドアとの間の論理的関係の表示を維持する。従って、ユーザはドアと共に回転する自由形式デジタルインク注釈を見ることができる。
【0031】
この後の説明のために、以下のように定義する:ポジションとは、ビューにおける二次元座標である。ストロークとは、ビュー中のポジションのリストである。オフセットとは、ビューにおける或るポジションからの二次元オフセットである。領域とは、例えば境界ボックスやポジションのリストにより表わされる二次元ビューの一部である。キャラクタとは、テキスト文書におけるキャラクタである。テキストフロー中のキャラクタ同士の間のキャラクタポジションは、テキストが変化したときに維持される。マージンアンカは、左又は右のマージンに対するキャラクタのポジション及びブールフラッグである。シンプルアンカは、キャラクタ、キャラクタポジション、又はマージンアンカである。合成アンカは、オフセットを有する1対のシンプルアンカである。アンカは、シンプルアンカか合成アンカかのどちらかである。アンカされたストロークは、アンカ+オフセットのリストである。
【0032】
本発明の方法及びシステムの実施の形態は、基礎となるアンカオブジェクトが動くと、アンカポイントを移動する。自由形式デジタルインクのアンカされないセグメントは、アンカされたポイント同士の間にフィットするようにストレッチされる。時には、基礎となるオブジェクトが離れるように移動するため、隣接するアンカポイントが離れるように移動することもある:例えば、(図3の(A)及び(B)で示されるように)テキストフレーズが一行から二行にリフローする場合である。このような場合には、元々隣接していたポイント同士のつながりは、これらのポイント同士の散乱をなくすように維持され、これらのポイント同士の間のアンカされていないインクが除去できる。故に、図3の(B)で示すように、リフローされた自由形式デジタルインク注釈は分割され、2つの別個のテキストライン上にある2つのセグメント同士の間に延在するインクは示されていない。ストロークに対するアンカオブジェクトが消去されると、自由形式デジタルインク注釈は文書内の最も近い残りのオブジェクトに再度マッピングされる。自由形式デジタルインク注釈に対する全てのアンカオブジェクトが消去されると、注釈が消去されることができる。
【0033】
自由形式デジタルインク注釈に対するアンカのタイプは、注釈の形状と、対応するオブジェクトの種類及び数とに依存する。以下に詳述するインクアンカを計算する1つの方法は、インクにおける各セグメントに対して最も近いオブジェクトを選択することである。あるいは、ストロークのタイプは、その形状から決定されるように、アンカオブジェクトを決定するために使用されることができる。別のケースでは、複数のアンカを用いる自由形式デジタルインク注釈は、ビューが変化した時に望ましくない乱れの原因となることがある。この問題を回避するために、本発明の実施の形態は、自由形式デジタルインク注釈のセグメントをひとまとめにして、アンカの数を減少する。
【0034】
以前に手短に述べたように、本発明の方法及びシステムの実施の形態は、少なくとも3つのプロセスを用いる。第1プロセスは、ビュー中の自由形式デジタルインク注釈を受けとり、第2プロセスは、ビュー中のオブジェクトと自由形式デジタルインク注釈との間の論理的マッピングを計算し、第3プロセスは、変化したビューにおいて自由形式デジタルインク注釈をレンダリングする。任意の第4プロセスは、自由形式デジタルインク注釈を選択して、前の状態にナビゲーションする。
【0035】
第1プロセスは、例えばマウスやペン等のポインティングデバイスからのデータポイントを感知し、ビューにおけるポイント同士を接続することにより、インクストロークをレンダリングし、インクストロークをひとまとめにして、1つの自由形式デジタルインク注釈を形成する。これらのインクストロークは、例えば単純な時間閾値により、グルーピングされ得る。第2プロセスは、自由形式デジタルインク注釈を入力として受け取り、オブジェクトと自由形式デジタルインク注釈との間でマッピングを行う。第3プロセスは、ドキュメントが変化する時にビューを更新する。このプロセスは、マッピングを用いて、ビューが変化する時にオブジェクト上に自由形式デジタルインク注釈をレンダリングする。
【0036】
ここで述べる本発明の手順及び実施の形態は、ユーザがインクで注釈付けしている間は、オブジェクトが変化しないと仮定する。しかし、本発明の方法及びシステムは、注釈付けされているオブジェクトが変化しないアプリケーションに限定されない。例として、ビデオのケースでは、ビデオは、ユーザがマーキングする間、休止する可能性がある。あるいは、ビデオは、ユーザがマーキングしている間に継続していることもでき、ある時或るポイントにあるオブジェクトの状態を用いて、オブジェクトを解釈し、オブジェクトと自由形式デジタルインク注釈との間のマッピングを更新することができる。
【0037】
第4プロセスは、ビュー上で選択を行い、自由形式デジタルインク注釈に対応するかどうかを判断し、自由形式デジタルインク注釈に対応する場合には、自由形式デジタルインク注釈が付けられたときに存在したビューと現在のビューを置き換える。このプロセスは、自由形式デジタルインク注釈から変化するビューの状態への追加マッピングを格納することが必要である。
【0038】
本発明は、互いに分割され得るサブオブジェクトからオブジェクトが構築され得ることを認識する。1つの例は、ワードから構築されるテキストフレーズである。フレーズがサークルで囲む自由形式デジタルインク注釈を有する場合、及び、フレーズが2行にわたってリフローする場合、本発明は、この分割を認識し、自由形式デジタルインク注釈をいくつかのセグメントに分割して、それらが移動するときに、その各々を対応する基礎となるワードに追随させることにより、自由形式デジタルインク注釈をリフローするか、あるいはシステムが、サークルのマッチングするセグメント同士の間にラインを引くように選択することが可能である。あるいは、自由形式デジタルインク注釈は、個々のワードにおいて、より小さいスケールで複製されることも可能である。
【0039】
ユーザは、フレーズを別のパラグラフにコピーすることができるが、これは、囲み注釈がなければ、分割の形態と考えたり、全く新しい無関係のオブジェクトとみなすこともできる。
【0040】
逆に、オブジェクトは、より大きなエントリに併合されることもできる。例えば、注釈を付けられた2つのワード同士の間の、注釈付けされていないワードが消去されると、2つの注釈付けされたワードが「併合」され、注釈付けされた1つのフレーズが形成される。この2つの注釈は結合して、併合されたフレーズの単一の注釈が形成される。
【0041】
オブジェクトはまた、完全に消えることもあり得る。例えば、テキストエディタ内のワードは、消去されることができる。この場合には、オブジェクトと関連づけられた自由形式デジタルインク注釈は、消えることができたり、周りのオブジェクト同士の間のロケーションに残ることもできる。
【0042】
オブジェクトは変化することもできる。例えば、テキストエディタ内のユーザは、注釈付けされたワードを選択して、それを新らしいワードと置き換えることもできる。新しいワードは、元のオブジェクトの新たなバージョンとみなすことができる。元のワードの注釈は、新たなオブジェクトに関連付けられることが可能である。この場合、注釈はその形状を変え、例えば伸びたり縮んだりすることで、新たなワードに適応する。あるいは、注釈をディスプレイから除去することもできる。
【0043】
本発明の方法及びシステムの実施の形態は、テキスト上のインクストロークをグルーピングして、単一の自由形式デジタルインク注釈を形成することも可能である。例として(制限するものではない)、注釈は、サークル、アンダーライン/取り消し、挿入、マージンノート、及びコネクタとして類別されることができる。サークルである注釈は、テキストを含むインクストロークサークルにより識別され、これらのインクストロークサークルは、インクストロークサークル内部のテキストオブジェクトにマッピングされる。アンダーライン/取り消し注釈は、テキスト上に直接存在するか、テキストの下に存在するかのどちらかである長尺状のマークにより識別される。これらの注釈は、上あるいは下に存在するテキストオブジェクトにマッピングされる。注釈は、注釈がテキストラインに入り込むと、挿入として識別され得る。挿入注釈は、例えば2つのキャラクタ同士の間など、挿入マークがテキスト中で表われるポジションにマッピングされる。マージンノート注釈は、注釈の垂直方法及び/又は水平方向ポジションに隣接するテキストにマッピングされる。コネクタ注釈は、注釈の終わりに表われる矢印又は輪縄(すなわち、サークルに線とシングルストロークをプラスしたもの)によるコネクタとして識別される。コネクタ注釈は、サークルとコネクタ部分に分割される。コネクタ注釈は、2つのオブジェクトに独立してマッピングされる。第1オブジェクトは、注釈の始まりに発生するオブジェクトであり、第2オブジェクトは、注釈の終わり付近に発生する。これらのオブジェクトは、テキスト内のポジションであってもよいし、あるいは他の注釈であってもよい。例えば、輪縄のライン部分の一端は、テキストにマッピングするサークル注釈にマッピングされる。別の例は、テキストからマージン注釈へのラインである。このラインの一端は、テキストにマッピングされ、他端は、マージン注釈にマッピングされる。
【0044】
図12は、自由形式デジタルインク注釈のいくつかのタイプを例示している。図12は、文書400のディスプレイを示し、文書400は、サークル(又は囲み)注釈402及び404、アンダーライン注釈406、取り消し注釈408及び410、挿入注釈412及び414、マージン注釈416、マージン注釈に対するライン418(これはマージンノート420に関連する)、矢印コネクタ422を含む。多様な実施の形態の説明と共に示される自由形式デジタルインク注釈のタイプは、例示であって、注釈の特定の実施形態/タイプあるいはグラマに限定するものではないことを理解されたい。
【0045】
本発明の方法及びシステムは、自由形式デジタルインク注釈に対してアンカが決定される概念に基づく。アンカは、オブジェクトからのオフセットである。自由形式デジタルインク注釈は、自由形式デジタルインク注釈の基礎のビューのオブジェクト構造にマッピングされる。マッピングは、例えばキャラクタ、フレーズ及びパラグラフ等の分類体系的なオブジェクトに対して行われることが可能であることが理解されるべきであるが、簡明さのために、以下は、単一レベルのマッピング:自由形式デジタルインク注釈とキャラクタ若しくはキャラクタ同士の間のポジションとの間:について、説明する。消去されたキャラクタに対して、テキストエディタはキャラクタとそれらの対応するキャラクタポジションとを消去されたとしてマークするが、テキストエディタは、キャラクタポジションと残りのキャラクタの間のいくつかのロケーションとの間の対応関係を維持する。
【0046】
本発明の方法及びシステムの実施の形態は、キャラクタのシーケンス及び表現を格納するテキストエディタに依存する。この実施の形態は、キュラクタポジション、キャラクタ若しくはキャラクタのレンジが消去されたかどうかを決定することができ;キャラクタポジションに対応するビュー中のポジションを獲得することができ;キャラクタに対応するビュー中の領域を獲得することができ;キャラクタポジションに対応する左右のマージンポジションのレンジを得ることができ;ビュー中の領域に対応するキャラクタポジションのレンジを獲得することができ;各サブルトロークが単一キャラクタ又はキャラクタ同士の間のポジションに対応するように自由形式デジタルインク注釈をサブストローク又はセグメントのセットに分割することができる。
【0047】
本発明の方法及びシステムの或る実施の形態はまた、アンカストロークを格納する注釈データベースを用いることも可能である。注釈データベースをアクセスして、アンカストロークをデータベースに追加したり、アンカストロークをデータベースから消去したり、アンカストロークの全てのリストを取得したりすることが可能である。
【0048】
図4〜図9は、本発明の実施の形態に従って、基礎となるビュー中のオブジェクトに自由形式デジタルインク注釈をマッピングするためのコントロールルーチンを概説するフローチャートである。フローチャートは、以下の疑似コードに近似する。
【0049】
まず、ストロークのグループを、サークル、アンダーライン/取り消し、挿入、マージンノート、又はコネクタとして分類する。これには、ストロークのいくつかを分割することが必要となる可能性があり、その結果いくつかのグループのストロークが発生し得る。次いで、
新たなグループのストロークがコネクトするどのグループの後にもコネクタが現れるように、新たなグループのストロークを分類する。
新たなグループのストロークに対して、
【0050】
図4〜図9で示すコントロールルーチンは、ステップS100で始まり、ステップS102に続く。ステップS102で、コントロールルーチンは、インクストロークを、サークル、アンダーライン/取り消し、挿入、マージン又はコネクタ等の注釈にグルーピングする。これには幾つかのストロークを分割することが必要かもしれず、その結果、幾つかのストロークグループが発生し得ることを理解されたい。次いで、コントロールルーチンはステップS104に進行し、ここで注釈は、コネクトされるあらゆるグループの後にコネクタが現れるように、分類される。次に、コントロールルーチンは、ステップS106に続き、これらの注釈の全てを反復処理するループを開始する。コントロールルーチンは、その注釈がサークルであるか、アンダーラインであるのか、あるいは取り消しであるのかを決定する。ステップS106で、コントロールルーチンにより、この注釈がサークル、アンダーライン又は取り消しであることが決定された場合には、コントロールルーチンは、ステップS116にジャンプする。一方、ステップS106で、この注釈がサークル、アンダーライン、又は取り消しを含まないことをコントロールルーチンが決定した場合、コントロールルーチンはステップS108に続く。ステップS108では、コントロールルーチンは、この注釈がインク挿入であるかどうかを決定する。ステップS108で、コントロールルーチンにより、現行注釈がインク挿入であると決定された場合には、コントロールルーチンはステップS138にジャンプする。一方、コントロールルーチンにより、現行注釈がインク挿入ではないことを決定された場合には、コントロールルーチンは、ステップS110に進行する。ステップS110で、コントロールルーチンは、現行注釈がマージン注釈であるかどうかを決定する。ステップS110で、現行注釈がマージン注釈であるとコントロールルーチンが決定した場合には、コントロールルーチンはステップS158にジャンプする。他方、ステップS110で、現行注釈がマージン注釈でないことをコントロールルーチンが決定した場合には、コントロールルーチンはステップS186にジャンプする。
【0051】
図5〜図9のプロセス(これについては以下に詳述する)の1つを完了した後、コントロールルーチンは、ステップS112に進行し、まだ注釈を処理する必要があるかどうかを決定する。ステップS112で、コントロールルーチンが、注釈をまだ処理する必要があると決定した場合、コントロールルーチンはステップS106にリターンする。一方、コントロールルーチンが、もう注釈を処理する必要がないと決定した場合には、コントロールルーチンはステップS114に続き、コントロールは図4〜図9のコントロールルーチンが動作する環境に戻る。
【0052】
ステップS116で、コントロールルーチンは、各々が対応するシングルキャラクタを有するサブストロークのリストに注釈を分割する。従って、コントロールルーチンは、注釈を分割して、サブストローク/キャラクタのぺアにする。コントロールルーチンはステップS118に続き、現行注釈中のサブストローク/キャラクタペアの各々を反復処理するループを開始する。ステップS118で、コントロールルーチンは現行キャラクタに対応する新たなシンプルアンカを作成する。コントロールルーチンはステップS120に続き、現行キャラクタに対応するビュー内の領域を獲得する。コントロールルーチンは次いで、ステップS122に進行し、アンカポジションをビュー中の領域の中心にセットする。コントロールルーチンはステップS124に進行し、シンプルアンカに基づく新たなアンカストロークを作成し、ステップS126に続く。ステップS126で、コントロールルーチンはサブストロークからアンカポジションをマイナスしたポジションにオフセットをセットし、ステップS128に進行する。ステップS128では、コントロールルーチンはオフセットのアンカストロークのリストにオフセットを追加し、ステップS130に進行する。ステップS130では、コントロールルーチンは、現行サブストローク中にまだポジションが存在するかどうかを決定する。コントロールルーチンがステップS130で現行サブストローク中にまだポジションが存在すると決定した場合には、コントロールルーチンはステップS126にリターンする。一方、コントロールルーチンが現行サブストローク中にもうポジションが存在しないことを決定した場合には、コントロールルーチンは、ステップS132に続く。ステップS132では、コントロールルーチンはアンカストロークを注釈データベースに追加し、ステップS134に続く。ステップS134では、コントロールルーチンは、現行注釈中にサブストローク/キャラクタペアがまだ存在するかどうかを決定する。ステップS134で、コントロールルーチンが現行注釈中にまだサブストローク/キャラクタペアが存在することを決定した場合には、コントロールルーチンはステップS118にリターンする。一方、コントロールルーチンがステップS134で、現行注釈中にもうサブストローク/キャラクタペアが存在しないことを決定した場合には、コントロールルーチンはステップS136に続き、ここでコントロールはステップS112にリターンする。
【0053】
ステップS138で、コントロールルーチンは、注釈がテキスト中に入り込むキャラクタポジションに現行キャラクタポジションをセットする。コントロールルーチンは次いで、ステップS140に続き、現行キャラクタポジションに対応するポジションを獲得する。コントロールルーチンはステップS142に続き、ここでアンカポジションが現行キャラクタポジションにセットされる。コントロールルーチンはステップS144に進行し、注釈中の全てのストロークを処理するループを開始する。ステップS144で、コントロールルーチンはアンカとしての現行キャラクタポジションに基づいて、新たなアンカストロークを作成し、ステップS146に続く。ステップS146では、コントロールルーチンはストロークからアンカポジションをマイナスした現行キャラクタポジションにオフセットをセットし、ステップS148に進行する。ステップS148で、コントロールルーチンはオフセットのアンカストロークのリストにオフセットを追加し、ステップS150に続く。ステップS150で、コントロールルーチンは、現行ストローク中にまだポジションが存在するかどうかを決定する。ステップS150で、コントロールルーチンが現行ストローク中にまだポジションが存在することを決定した場合には、コントロールルーチンはステップS146にリターンする。一方、ステップS150で、コントロールルーチンが現行ストローク中にポジションがもう存在しないことを決定した場合には、コントロールルーチンはステップS152に進行する。ステップS152では、コントロールルーチンは注釈データベースにアンカストロークを追加し、ステップS154に進行する。ステップS154では、コントロールルーチンは、現行注釈中にまだストロークが存在するかどうかを決定する。ステップS154で、コントロールルーチンが、現行注釈中にストロークがまだ存在することを決定した場合には、コントロールルーチンはステップS144にリターンする。他方、コントロールルーチンがステップS154で、現行注釈中にもうストロークが存在しないと決定した場合、コントロールルーチンはステップS112に続く。
【0054】
ステップS158で、コントロールルーチンは、現行注釈の垂直方向長さに対応する第1キャラクタポジションにキャラクタポジションをセットする。コントロールルーチンは次いで、ステップS160に進み、ここでテキストエディタが、キャラクタポジションに対応する左右のマージンポジションを獲得し、コントロールルーチンはステップS162に続く。ステップS162では、コントロールルーチンは、注釈が大部分、左マージンの左にあるかどうかを決定する。ステップS162で、コントロールルーチンが、左マージンの左に注釈が大部分存在することを決定した場合には、コントロールルーチンはステップS164に続く。他方、コントロールルーチンが、左マージンの左に注釈がほとんど存在しないことを決定した場合、コントロールルーチンはステップS168にジャンプする。ステップS164で、コントロールルーチンはマージンアンカをLEFTにセットし、コントロールルーチンはステップS166に続く。ステップS166では、コントロールルーチンはアンカポジションを左マージンにセットし、ステップS172に進行する。
【0055】
ステップS168で、コントロールルーチンはマージンアンカをRIGHTにセットして、ステップS170に進行する。ステップS170では、コントロールルーチンはアンカポジションを右マージンにセットし、ステップS172に続く。ステップS172では、コントロールルーチンは現行注釈中の全ストロークを処理するループを開始する。ステップ172で、コントロールルーチンはマージンアンカに基づいて新たなアンカストロークを作成し、ステップS174に続く。ステップS174では、コントロールルーチンは現行ストロークからアンカポジションをマイナスしたポジションにオフセットをセットし、ステップS176に進行する。ステップS176では、コントロールルーチンはオフセットのアンカストロークのリストにオフセットを追加し、ステップS178に続く。ステップS178では、コントロールルーチンは、現行ストローク中にまだポジションが存在するかどうかを決定する。ステップS178で、コントロールルーチンが現行ストローク中にまだポジションが存在することを決定した場合には、コントロールルーチンはステップS174にリターンする。他方、ステップS178でコントロールルーチンが現行ストローク中にもうポジションが存在しないと決定した場合、コントロールルーチンはステップS180に続く。ステップS180で、コントロールルーチンは、アンカストロークを注釈データベースに追加し、ステップS182に続く。ステップS182では、コントロールルーチンは、現行注釈中にまだストロークが存在するかどうかを決定する。ステップS182で、コントロールルーチンが現行注釈中にまだストロークが存在すると決定した場合には、コントロールルーチンはステップS172にリターンする。他方、コントロールルーチンが現行注釈中にもうストロークが存在しないと決定した場合、コントロールルーチンはステップS156に続き、ここでコントロールルーチンはステップS112にリターンする。
【0056】
ステップS186で、コントロールルーチンは現行注釈中の全てのスターティングポジション又はエンディングポジションを処理するループを開始する。ステップS186で、コントロールルーチンは、別の注釈若しくはオブジェクトの近くに現行のスターティングポジション及びエンディングポジションが存在するかどうかを決定する。ステップS186で、現行ポジションが別の注釈の近くにあることをコントロールルーチンが決定した場合、コントロールルーチンはステップS188に進む。他方、コントロールルーチンがステップS186で、現行ポジションが別の注釈付近にないことを決定した場合には、コントロールルーチンはステップS192に続く。ステップS188で、コントロールルーチンは、シンプルアンカを現行注釈に対するアンカとしてセットし、ステップS190に続く。ステップS190で、コントロールルーチンは、アンカポジションをシンプルアンカの現行ポジションとしてセットし、ステップS196に続く。ステップS192で、コントロールルーチンはシンプルアンカを、現行のスターティングポジション又はエンディングポジション近くにあるオブジェクトに対するアンカとし、ステップS194に進行する。ステップS194では、コントロールルーチンはアンカポジションをオブジェクトの現行ポジションにセットし、ステップS196に進行する。ステップS196では、コントロールルーチンは現行ポジションからアンカポジションをマイナスしたポジションにオフセットをセットし、ステップS198に進む。ステップS198では、コントロールルーチンは、現行注釈中にスターティングポジション又はエンディングポジションがまだ存在するかどうかを決定する。ステップS198でコントロールルーチンが現行注釈中にスターティングポジション又はエンディングポジションがまだ存在することを決定した場合、コントロールルーチンはステップS186にリターンする。他方、コントロールルーチンがステップS198で、現行注釈中にスターティングポジション又はエンディングポジションがもう存在しないことを決定した場合には、コントロールルーチンはステップS200に進行する。
【0057】
ステップS200で、コントロールルーチンは現行注釈中の全てのストロークを処理するループを開始する。ステップS200で、コントロールルーチンはスターティングポジション及びエンディングポジションに対応するアンカに基づいて、合成アンカを有するアンカストロークを作成し、ステップS202に進む。ステップS202で、コントロールルーチンは、現行ストローク中の現行ポジションからスターティングポジションをマイナスしたポジションにオフセットをセットし、ステップS204に進行する。ステップS204では、コントロールルーチンはスターティングポジションとエンディングポジションとの間の距離でオフセットを割り、ステップS206に進行する。ステップS206では、コントロールルーチンはエンディングポジションからスターティングポジションを引いたものに等しい角度だけ、原点まわりにオフセットを回転させ、ステップS208に進む。ステップS208では、コントロールルーチンはオフセットのアンカストロークリストにオフセットを追加し、ステップS210に進む。ステップS210では、コントロールルーチンは、現行ストローク中にまだポジションが存在するかどうかを決定する。ステップS210で、コントロールルーチンが、現行ストローク中にまだポジションが存在することを決定した場合には、コントロールルーチンはステップS202にリターンする。他方、コントロールルーチンが、ステップS210において、現行ストローク中にもうポジションが存在しないことを決定した場合には、コントロールルーチンはステップS212に進行する。ステップS212では、コントロールルーチンは合成アンカを注釈データベースに追加し、ステップS214に続く。ステップS214では、コントロールルーチンは、現行注釈中にまだストロークが存在するかどうかを決定する。ステップS214において、コントロールルーチンが現行注釈中にまだストロークが存在することを決定した場合、コントロールルーチンはステップS200にリターンする。他方、コントロールルーチンが現行注釈中にストロークがもう存在しないことを決定した場合には、コントロールルーチンはステップS216に続き、ここでコントロールルーチンはステップS112にリターンする。
【0058】
図10及び図11は、変化されたビューにおいて自由形式デジタルインク注釈をレンダリングするコントロールルーチンを示す。フローチャートは、以下の疑似ルーチンに近似する。
【0059】
注釈データベースを用いて、全てのアンカストロークのリストを得る
【0060】
コントロールルーチンはステップS300で始まり、ステップS302に続く。ステップS302で、コントロールルーチンは注釈データベースから全アンカストロークのリストを得て、ステップS304に進行する。ステップS304で、コントロールルーチンは、現行のアンカストロークからアンカとオフセットのリストを抽出し、ステップS306に進む。ステップS306で、コントロールルーチンはストロークを新たなストロークとし、ステップS308に進行する。ステップS308で、コントロールルーチンは、アンカがシンプルアンカであるか否かを決定する。ステップS308で、コントロールルーチンが、アンカがシンプルアンカであることを決定した場合、コントロールルーチンはステップS310に続く。他方、コントロールルーチンがステップS308で、アンカがシンプルアンカでないことを決定した場合、コントロールルーチンはステップS326にジャンプする。ステップS310で、コントロールルーチンは、キャラクタ若しくはキャラクタポジションが消去されたか否かを決定する。ステップS310で、コントロールルーチンが、キャラクタ若しくはキャラクタポジションが消去されたことを決定した場合、コントロールルーチンはステップS320にジャンプする。他方、コントロールルーチンが、キャラクタ若しくはキャラクタポジションが消去されなかったことを決定した場合、コントロールルーチンはステップS312に続く。ステップS312で、コントロールルーチンはアンカポジションを、オフセットに対するアンカのポジションにセットし、ステップS314に続く。コントロールルーチンはステップS314で、アンカポジションをプラスしたストロークからのオフセットを新たなポジションとし、ステップS316に続く。ステップS316では、コントロールルーチンはストロークに新たなポジションを追加し、ステップS318に続く。ステップS318では、コントロールルーチンは、アンカに対するオフセットがまだ存在するかどうかを決定する。ステップS318で、コントロールルーチンによりオフセットがまだ存在することが決定されれば、コントロールルーチンはステップS314にリターンする。他方、コントロールルーチンにより、もうオフセットが存在しないことが決定されれば、コントロールルーチンはステップS320にジャンプする。ステップS320では、コントロールルーチンはビュー上にストロークをレンダリングし、ステップS322に進行する。ステップS322では、コントロールルーチンは注釈データベース中にアンカストロークが存在するかどうかを決定する。ステップS322で、注釈データベース中にまだアンカストロークが存在することをコントロールルーチンが決定した場合には、コントロールルーチンはステップS304にリターンする。他方、ステップS322で、注釈データベース中にもうアンカストロークが存在しないことをコントロールルーチンが決定した場合には、コントロールルーチンはステップS324に進行し、ここでコントロールルーチンは、動作する環境にコントロールをリターンする。
【0061】
ステップS326で、コントロールルーチンは、第1アンカ及び第2アンカの基礎をなすキャラクタ又はキャラクタポジションが消去されたかどうかを決定する。コントロールルーチンがステップS326で、このようなキャラクタ又はキャラクタポジションが消去されたことを決定した場合、コントロールルーチンはステップS320にリターンする。他方、コントロールルーチンがステップS326で、第1アンカ及び第2アンカの基礎をなすキャラクタ又はキャラクタポジションが消去されなかったと決定した場合、コントロールルーチンはステップS328に進行する。ステップS328では、コントロールルーチンは、第1アンカに第1オフセットをプラスしたポジションにスターティングポジションをセットし、ステップS330に進行する。ステップS330では、コントロールルーチンは、第2アンカに第2オフセットをプラスしたポジションにエンディングポジションをセットし、ステップS332に進行する。ステップS332では、コントロールルーチンは、エンディングポジションからスターティングポジションをマイナスしたものに等しい角度だけ回転させたアンカストロークからのオフセットに新たなオフセットをセットし、ステップS334に進行する。ステップS334では、コントロールルーチンは、新たなオフセットに、スターティングポジションとエンディングポジションの間の距離を乗算し、ステップS336に進行する。ステップS336では、コントロールルーチンは、新たなオフセットにスターティングポジションをプラスしたものに新たなポジションをセットし、ステップS338に進行する。ステップS338で、コントロールルーチンは、新たなポジションをストロークに追加し、ステップS340に続く。ステップS340では、コントロールルーチンはオフセットがまだ存在しているかどうかを決定する。ステップS340で、コントロールルーチンがオフセットがまだ存在していることを決定した場合には、コントロールルーチンはステップS332にリターンする。他方、コントロールルーチンがステップS340で、もうオフセットが存在しないことを決定した場合には、コントロールルーチンはステップS320にリターンする。
【0062】
自由形式デジタルインク注釈は、ペン、マウス、又は時を超えて存在する他のポインティングデバイスを用いて作成される任意の形状の可視インクストロークを意味するものとする。ペンベースの入力デバイスは、ペンタブレット、ペンディスプレイ、ペンディスプレイタブレット、ペンコンピュータ及び/又はタッチスクリーンを含むものとする。本発明のシステム及び方法は、インクストロークの形状又は形態的特徴から何らかの意味を推論するが、一旦それらを認識すると、インクストロークを除去しない。
【0063】
概して電子システムについて詳述してきたが、本発明の方法及びシステムは、変化するビューをディスプレイする任意のエレクトロニックブック及びドミュメントリーダにも適用可能であることを理解されたい。エレクトロニックブック及びドキュメントリーダは、ペン等のポインティングデバイスを用いてアクセスすることができ、自由形式デジタルインク注釈を入力として受け取る任意の電子的携帯デバイスを含む。エレクトロニックブック及びドキュメントリーダは、制限のない他の付加的な特徴を含み得る。
【0064】
「テキスト」という言葉は、テキスト、デジタルインク、オーディオ、ビデオ、又はドキュメントの構造を含むドキュメントの他の任意の内容を含むものとする。オブジェクトは、例として(制限するものではない)、キャラクタ、ワード、フレーズ、センテンス、パラグラフ、ライン、セクション、チャプタ、シングルイメージ中又はビデオのようなイメジストリーム等の中のコンピュータビジョンにより識別可能なイメージの一部といった、ディスプレイの任意のコンポーネントであるものとする。
【0065】
なお、ドキュメントの構造における変化は、オブジェクトの挿入、消去、コピー、及び移動等を含むものとする。また、ドキュメントのレイアウト構造における変化は、オブジェクトのリフロー、オブジェクトのサイズ変更、オブジェクトの回転、オブジェクトのストレッチング、オブジェクトの歪曲、オブジェクトのモルフィング等を含むものとする。
【0066】
本発明を特定の実施の形態と共に述べてきたが、多くの変更及び変形が当業者には明らかであろう。従って、本発明の好適な実施の形態は、例示であって制限するものではない。本発明の主旨及び範囲から逸脱することなく、多様な変更を行うことができる。
【図面の簡単な説明】
【図1】本発明の変化するビューをディスプレイするためのシステムの実施の形態のブロック図である。
【図2】(A)は、本発明の実施の形態に従う、注釈を付けられたハイパボリックブラウザのディスプレイであり、(B)は、変化されたビューと、本発明の実施の形態に従い、ビュー中の変化に従って調整された自由形式デジタルインク注釈とを有する、(A)の注釈付きハイパボリックブラウザを示す。
【図3】(A)は、注釈を付けられたドキュメントのディスプレイを示し、(B)は、ドキュメント変更後の(A)の注釈付きドキュメントを示すと共に、本発明の実施の形態に従った自由形式デジタルインク注釈に対する調整を示している。
【図4】本発明の実施の形態に従ってディスプレイ中のオブジェクトに自由形式デジタルインク注釈をマッピングするコントロールルーチンを概説するフローチャートを示す。
【図5】本発明の実施の形態に従ってディスプレイ中のオブジェクトに自由形式デジタルインク注釈をマッピングするコントロールルーチンを概説するフローチャートを示す。
【図6】本発明の実施の形態に従ってディスプレイ中のオブジェクトに自由形式デジタルインク注釈をマッピングするコントロールルーチンを概説するフローチャートを示す。
【図7】本発明の実施の形態に従ってディスプレイ中のオブジェクトに自由形式デジタルインク注釈をマッピングするコントロールルーチンを概説するフローチャートを示す。
【図8】本発明の実施の形態に従ってディスプレイ中のオブジェクトに自由形式デジタルインク注釈をマッピングするコントロールルーチンを概説するフローチャートを示す。
【図9】本発明の実施の形態に従ってディスプレイ中のオブジェクトに自由形式デジタルインク注釈をマッピングするコントロールルーチンを概説するフローチャートを示す。
【図10】本発明の実施の形態に従って、変化されたビュー上で自由形式デジタルインク注釈をレンダリングするコントロールルーチンを概説するフローチャートを示す。
【図11】本発明の実施の形態に従って、変化されたビュー上で自由形式デジタルインク注釈をレンダリングするコントロールルーチンを概説するフローチャートを示す。
【図12】異なるタイプの自由形式デジタルインク注釈の幾つかの例を示す。
【符号の説明】
10 電子システム
12 プロセッサ
14 メモリ
16 ディスプレイ
18 キーボード
20 マウス
22 ペン
24 入力/出力デバイス
Claims (6)
- ビューが変化する時に、ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係の指示を維持するシステムであって、前記指示が、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係であり、前記システムが、
少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係を表示するディスプレイを含み、
前記少なくとも1つの自由形式デジタルインク注釈を入力する入力デバイスを含み、
ビュー中において前記入力デバイスによって入力された前記少なくとも1つの自由形式デジタルインク注釈の前記少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、前記少なくとも1つのオブジェクトからのオフセットであるアンカを作成することにより、前記少なくとも1つのオブジェクトに対する前記少なくとも1つの自由形式デジタルインク注釈の論理的関係をマッピングするプロセッサを含み、
前記論理的関係を格納して維持するメモリを含み、
前記プロセッサが、
第1ビューにおける変化に応答して、第2ビューを生成し、
前記第2ビューの生成に応答して、前記メモリに格納された前記論理的関係を取得し、
前記論理的関係に基づいて、前記第2ビューにおいて前記少なくとも1つの自由形式デジタルインク注釈をレンダリングして前記ディスプレイに表示し、
さらに、
前記少なくとも1つの自由形式デジタルインク注釈を複数のサブストロークに分割することにより、前記少なくとも1つの自由形式デジタルインク注釈をマッピングし、各サブストロークが、オブジェクトに近接する注釈の部分に対応し、前記第1ビュー中の複数のサブストロークの各々の前記少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、複数のサブストロークの各々に対するアンカを作成する、
ことを特徴とする論理関係の指示維持システム。 - 第2ビューが、前記少なくとも1つのオブジェクトの少なくとも2つのオブジェクトへの分割と、少なくとも2つのオブジェクトの分離とに応答して生成され、前記少なくとも1つの自由形式デジタルインク注釈が、少なくとも2つの自由形式デジタルインク注釈に分割され、その各々が、少なくとも2つのオブジェクトのうちの少なくとも1つに対応する、ことを特徴とする請求項1の論理関係の指示維持システム。
- ビューが変化する時に、ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係の指示を維持するシステムであって、前記指示が、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係であり、前記システムが、
少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係を表示するディスプレイを含み、
前記少なくとも1つの自由形式デジタルインク注釈を入力する入力デバイスを含み、
ビュー中において前記入力デバイスによって入力された前記少なくとも1つの自由形式デジタルインク注釈の前記少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、前記少なくとも1つのオブジェクトからのオフセットであるアンカを作成することにより、前記少なくとも1つのオブジェクトに対する前記少なくとも1つの自由形式デジタルインク注釈の論理的関係をマッピングするプロセッサを含み、
前記論理的関係を格納して維持するメモリを含み、
前記プロセッサが、
第1ビューにおける変化に応答して、第2ビューを生成し、
前記第2ビューの生成に応答して、前記メモリに格納された前記論理的関係を取得し、
前記論理的関係に基づいて、前記第2ビューにおいて前記少なくとも1つの自由形式デジタルインク注釈をレンダリングして前記ディスプレイに表示し、
前記第2ビューが、前記少なくとも1つのオブジェクトを少なくとも1つの新たなオブジェクトと置き換えることに応答して生成される、
ことを特徴とする論理関係の指示維持システム。 - ビューが変化する時に、ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係の指示を維持するシステムであって、前記指示が、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係であり、前記システムが、
少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係を表示するディスプレイを含み、
前記少なくとも1つの自由形式デジタルインク注釈を入力する入力デバイスを含み、
ビュー中において前記入力デバイスによって入力された前記少なくとも1つの自由形式デジタルインク注釈の前記少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、前記少なくとも1つのオブジェクトからのオフセットであるアンカを作成することにより、前記少なくとも1つのオブジェクトに対する前記少なくとも1つの自由形式デジタルインク注釈の論理的関係をマッピングするプロセッサを含み、
前記論理的関係を格納して維持するメモリを含み、
前記プロセッサが、
第1ビューにおける変化に応答して、第2ビューを生成し、
前記第2ビューの生成に応答して、前記メモリに格納された前記論理的関係を取得し、
前記論理的関係に基づいて、前記第2ビューにおいて前記少なくとも1つの自由形式デジタルインク注釈をレンダリングして前記ディスプレイに表示し、
前記少なくとも1つのオブジェクトが、少なくとも2つのオブジェクトを含み、第2ビューが、少なくとも2つのオブジェクトの併合に応答する、
ことを特徴とする論理関係の指示維持システム。 - ビューが変化する時に、ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係の指示を維持するシステムであって、前記指示が、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係であり、前記システムが、
少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係を表示するディスプレイを含み、
前記少なくとも1つの自由形式デジタルインク注釈を入力する入力デバイスを含み、
ビュー中において前記入力デバイスによって入力された前記少なくとも1つの自由形式デジタルインク注釈の前記少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、前記少なくとも1つのオブジェクトからのオフセットであるアンカを作成することにより、前記少なくとも1つのオブジェクトに対する前記少なくとも1つの自由形式デジタルインク注釈の論理的関係をマッピングするプロセッサを含み、
前記論理的関係を格納して維持するメモリを含み、
前記プロセッサが、
第1ビューにおける変化に応答して、第2ビューを生成し、
前記第2ビューの生成に応答して、前記メモリに格納された前記論理的関係を取得し、
前記論理的関係に基づいて、前記第2ビューにおいて前記少なくとも1つの自由形式デジタルインク注釈をレンダリングして前記ディスプレイに表示し、
前記少なくとも1つの自由形式デジタルインク注釈が、少なくとも2つの自由形式デジタルインク注釈を含み、前記少なくとも1つのオブジェクトが、少なくとも2つのオブジェクトを含み、その各々が、少なくとも2つの自由形式デジタルインク注釈のうちの1つに対応し、
前記プロセッサが、少なくとも2つのオブジェクトの併合に応答して、少なくとも2つの自由形式デジタルインク注釈を併合して、単一の自由形式デジタルインク注釈にする、
ことを特徴とする論理関係の指示維持システム。 - ビューが変化する時に、ビュー中の少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対する論理的関係の指示を維持するシステムであって、前記指示が、少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係であり、前記システムが、
少なくとも1つの自由形式デジタルインク注釈の少なくとも1つのオブジェクトに対するレイアウト関係を表示するディスプレイを含み、
前記少なくとも1つの自由形式デジタルインク注釈を入力する入力デバイスを含み、
ビュー中において前記入力デバイスによって入力された前記少なくとも1つの自由形式デジタルインク注釈の前記少なくとも1つのオブジェクトに対するレイアウト関係に基づいて、前記少なくとも1つのオブジェクトからのオフセットであるアンカを作成することにより、前記少なくとも1つのオブジェクトに対する前記少なくとも1つの自由形式デジタルインク注釈の論理的関係をマッピングするプロセッサを含み、
前記論理的関係を格納して維持するメモリを含み、
前記プロセッサが、
第1ビューにおける変化に応答して、第2ビューを生成し、
前記第2ビューの生成に応答して、前記メモリに格納された前記論理的関係を取得し、
前記論理的関係に基づいて、前記第2ビューにおいて少なくとも1つの自由形式デジタルインク注釈をレンダリングして前記ディスプレイに表示し、
さらに、前記第2ビュー中の前記少なくとも1つの自由形式デジタルインク注釈の選択に応答して、前記第1ビューを前記ディスプレイに表示する、
ことを特徴とする論理関係の指示維持システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/222,962 US6687876B1 (en) | 1998-12-30 | 1998-12-30 | Method and system for maintaining freeform ink annotations on changing views |
US222962 | 1998-12-30 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000200266A JP2000200266A (ja) | 2000-07-18 |
JP3807181B2 true JP3807181B2 (ja) | 2006-08-09 |
Family
ID=22834431
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP36962399A Expired - Lifetime JP3807181B2 (ja) | 1998-12-30 | 1999-12-27 | 論理的関係の指示維持方法及びシステム |
Country Status (4)
Country | Link |
---|---|
US (1) | US6687876B1 (ja) |
EP (1) | EP1016983B1 (ja) |
JP (1) | JP3807181B2 (ja) |
DE (1) | DE69916225T2 (ja) |
Families Citing this family (107)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7142196B1 (en) | 1999-10-12 | 2006-11-28 | Autodesk, Inc. | Geographical data markup on a personal digital assistant (PDA) |
US6859909B1 (en) * | 2000-03-07 | 2005-02-22 | Microsoft Corporation | System and method for annotating web-based documents |
US7142205B2 (en) | 2000-03-29 | 2006-11-28 | Autodesk, Inc. | Single gesture map navigation graphical user interface for a personal digital assistant |
US6956970B2 (en) | 2000-06-21 | 2005-10-18 | Microsoft Corporation | Information storage using tables and scope indices |
US7259753B2 (en) * | 2000-06-21 | 2007-08-21 | Microsoft Corporation | Classifying, anchoring, and transforming ink |
US7006711B2 (en) | 2000-06-21 | 2006-02-28 | Microsoft Corporation | Transform table for ink sizing and compression |
US6721921B1 (en) * | 2000-07-26 | 2004-04-13 | Itm Associates | Method and system for annotating documents using an independent annotation repository |
US6915484B1 (en) * | 2000-08-09 | 2005-07-05 | Adobe Systems Incorporated | Text reflow in a structured document |
US7028255B1 (en) | 2000-08-14 | 2006-04-11 | Adobe Systems Incorporated | Self-sizing object placement |
US6891551B2 (en) | 2000-11-10 | 2005-05-10 | Microsoft Corporation | Selection handles in editing electronic documents |
US6765589B1 (en) * | 2000-11-16 | 2004-07-20 | Adobe Systems Incorporated | Brush for warping and water reflection effects |
US7076503B2 (en) | 2001-03-09 | 2006-07-11 | Microsoft Corporation | Managing media objects in a database |
US7647373B2 (en) * | 2001-03-13 | 2010-01-12 | Eplus Capital, Inc. | System and process for network collaboration through embedded annotation and rendering instructions |
US20030004991A1 (en) * | 2001-06-29 | 2003-01-02 | Keskar Dhananjay V. | Correlating handwritten annotations to a document |
US7013029B2 (en) * | 2001-06-29 | 2006-03-14 | Intel Corporation | Incorporating handwritten notations into an electronic document |
US7246118B2 (en) * | 2001-07-06 | 2007-07-17 | International Business Machines Corporation | Method and system for automated collaboration using electronic book highlights and notations |
US20030025729A1 (en) * | 2001-07-26 | 2003-02-06 | Autodesk, Inc. | Method and apparatus for viewing and marking up a design document |
US8909595B2 (en) * | 2001-08-01 | 2014-12-09 | T-System, Inc. | Method for entering, recording, distributing and reporting data |
US20040194021A1 (en) * | 2001-09-14 | 2004-09-30 | Fuji Xerox Co., Ltd. | Systems and methods for sharing high value annotations |
US7712028B2 (en) * | 2001-10-19 | 2010-05-04 | Xerox Corporation | Using annotations for summarizing a document image and itemizing the summary based on similar annotations |
US8726015B2 (en) * | 2001-10-29 | 2014-05-13 | Omtool, Ltd. | Methods and apparatus for secure content routing |
US7120299B2 (en) * | 2001-12-28 | 2006-10-10 | Intel Corporation | Recognizing commands written onto a medium |
JP3730923B2 (ja) * | 2002-02-06 | 2006-01-05 | 株式会社ジャストシステム | アイコン表示装置、アイコン表示方法およびその方法をコンピュータに実行させるプログラム |
US7299424B2 (en) * | 2002-05-14 | 2007-11-20 | Microsoft Corporation | Lasso select |
US20030214553A1 (en) * | 2002-05-14 | 2003-11-20 | Microsoft Corporation | Ink regions in an overlay control |
US7158675B2 (en) * | 2002-05-14 | 2007-01-02 | Microsoft Corporation | Interfacing with ink |
US7925987B2 (en) * | 2002-05-14 | 2011-04-12 | Microsoft Corporation | Entry and editing of electronic ink |
US7415452B1 (en) | 2002-06-21 | 2008-08-19 | Adobe Systems Incorporated | Traversing a hierarchical layout template |
US7137077B2 (en) * | 2002-07-30 | 2006-11-14 | Microsoft Corporation | Freeform encounter selection tool |
US20040117724A1 (en) * | 2002-12-03 | 2004-06-17 | Microsoft Corporation | Extensible schema for ink |
US7415667B2 (en) * | 2003-01-31 | 2008-08-19 | Ricoh Company, Ltd. | Generating augmented notes and synchronizing notes and document portions based on timing information |
AU2003900865A0 (en) * | 2003-02-26 | 2003-03-13 | Silverbrook Research Pty Ltd | Methods, systems and apparatus (NPW010) |
US20040196306A1 (en) * | 2003-04-04 | 2004-10-07 | Microsoft Corporation | Method and system for flagging digital ink note content |
US7505048B2 (en) * | 2003-04-25 | 2009-03-17 | Microsoft Corporation | Estimation of overlap of polygons |
US7269787B2 (en) * | 2003-04-28 | 2007-09-11 | International Business Machines Coporation | Multi-document context aware annotation system |
US7373590B2 (en) * | 2003-05-19 | 2008-05-13 | Microsoft Corporation | Shared electronic ink annotation method and system |
EP3726396A3 (en) * | 2003-05-19 | 2020-12-09 | Huawei Technologies Co., Ltd. | Limiting scans of loosely ordered and/or grouped relations using nearly ordered maps |
US7218783B2 (en) * | 2003-06-13 | 2007-05-15 | Microsoft Corporation | Digital ink annotation process and system for recognizing, anchoring and reflowing digital ink annotations |
US7519901B2 (en) * | 2003-06-16 | 2009-04-14 | Fuji Xerox Co., Ltd. | Methods and systems for selecting objects by grouping annotations on the objects |
US7616333B2 (en) * | 2003-08-21 | 2009-11-10 | Microsoft Corporation | Electronic ink processing and application programming interfaces |
AU2003273239B8 (en) * | 2003-08-21 | 2010-07-22 | Microsoft Corporation | Ink collection and rendering |
US7533338B2 (en) * | 2003-08-21 | 2009-05-12 | Microsoft Corporation | Electronic ink processing |
US7262785B2 (en) | 2003-08-21 | 2007-08-28 | Microsoft Corporation | Ink editing architecture |
KR20100102733A (ko) * | 2003-08-21 | 2010-09-24 | 마이크로소프트 코포레이션 | 전자 잉크를 분석하기 위한 애플리케이션 프로그래밍 인터페이스를 포함하는 컴퓨터 판독가능 기록 매체, 전자 잉크 분석 방법 및 분석 콘텍스트 대상 생성 방법 |
US7418656B1 (en) * | 2003-10-03 | 2008-08-26 | Adobe Systems Incorporated | Dynamic annotations for electronics documents |
US7519900B2 (en) * | 2003-10-24 | 2009-04-14 | Microsoft Corporation | System and method for processing digital annotations |
US7826641B2 (en) * | 2004-01-30 | 2010-11-02 | Electronic Scripting Products, Inc. | Apparatus and method for determining an absolute pose of a manipulated object in a real three-dimensional environment with invariant features |
US7961909B2 (en) | 2006-03-08 | 2011-06-14 | Electronic Scripting Products, Inc. | Computer interface employing a manipulated object with absolute pose detection component and a display |
US9229540B2 (en) | 2004-01-30 | 2016-01-05 | Electronic Scripting Products, Inc. | Deriving input from six degrees of freedom interfaces |
US8542219B2 (en) * | 2004-01-30 | 2013-09-24 | Electronic Scripting Products, Inc. | Processing pose data derived from the pose of an elongate object |
US7962846B2 (en) * | 2004-02-13 | 2011-06-14 | Microsoft Corporation | Organization of annotated clipping views |
US7284192B2 (en) * | 2004-06-24 | 2007-10-16 | Avaya Technology Corp. | Architecture for ink annotations on web documents |
JP2008506188A (ja) * | 2004-07-09 | 2008-02-28 | ジェスチャーラド インコーポレイテッド | ジェスチャ・ベース報告方法およびシステム |
US8335694B2 (en) * | 2004-07-09 | 2012-12-18 | Bruce Reiner | Gesture-based communication and reporting system |
JP2006031292A (ja) | 2004-07-14 | 2006-02-02 | Fuji Xerox Co Ltd | 文書処理装置、文書処理方法及び文書処理プログラム |
US7308641B2 (en) * | 2004-07-30 | 2007-12-11 | Microsoft Corporation | Notebook layout view |
US7729538B2 (en) * | 2004-08-26 | 2010-06-01 | Microsoft Corporation | Spatial recognition and grouping of text and graphics |
US7574048B2 (en) * | 2004-09-03 | 2009-08-11 | Microsoft Corporation | Freeform digital ink annotation recognition |
US7570816B2 (en) * | 2005-03-31 | 2009-08-04 | Microsoft Corporation | Systems and methods for detecting text |
US8214754B2 (en) | 2005-04-15 | 2012-07-03 | Microsoft Corporation | Registration of applications and complimentary features for interactive user interfaces |
US7526129B2 (en) * | 2005-06-23 | 2009-04-28 | Microsoft Corporation | Lifting ink annotations from paper |
US7607079B2 (en) * | 2005-07-08 | 2009-10-20 | Bruce Reiner | Multi-input reporting and editing tool |
US7836390B2 (en) * | 2006-01-26 | 2010-11-16 | Microsoft Corporation | Strategies for processing annotations |
US8347206B2 (en) * | 2007-03-15 | 2013-01-01 | Microsoft Corporation | Interactive image tagging |
US20090013044A1 (en) * | 2007-07-05 | 2009-01-08 | Microsoft Corporation | Techniques for managing annotation transformations for context changes |
US8020119B2 (en) * | 2007-12-14 | 2011-09-13 | Microsoft Corporation | Engine support for parsing correction user interfaces |
US20100017725A1 (en) * | 2008-07-21 | 2010-01-21 | Strands, Inc. | Ambient collage display of digital media content |
US8806354B1 (en) * | 2008-12-26 | 2014-08-12 | Avaya Inc. | Method and apparatus for implementing an electronic white board |
US8255820B2 (en) | 2009-06-09 | 2012-08-28 | Skiff, Llc | Electronic paper display device event tracking |
US20100315326A1 (en) * | 2009-06-10 | 2010-12-16 | Le Chevalier Vincent | Electronic paper display whitespace utilization |
US20110029928A1 (en) * | 2009-07-31 | 2011-02-03 | Apple Inc. | System and method for displaying interactive cluster-based media playlists |
US20110088100A1 (en) * | 2009-10-14 | 2011-04-14 | Serge Rutman | Disabling electronic display devices |
JP5676942B2 (ja) * | 2010-07-06 | 2015-02-25 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US20120096345A1 (en) * | 2010-10-19 | 2012-04-19 | Google Inc. | Resizing of gesture-created markings for different display sizes |
US9569416B1 (en) | 2011-02-07 | 2017-02-14 | Iqnavigator, Inc. | Structured and unstructured data annotations to user interfaces and data objects |
US8792141B2 (en) * | 2011-06-09 | 2014-07-29 | Xerox Corporation | Embedded form extraction definition to enable automatic workflow configuration |
US9483454B2 (en) | 2011-10-07 | 2016-11-01 | D2L Corporation | Systems and methods for context specific annotation of electronic files |
JP5418576B2 (ja) * | 2011-11-28 | 2014-02-19 | コニカミノルタ株式会社 | 情報閲覧装置及び表示制御プログラム |
US9734132B1 (en) * | 2011-12-20 | 2017-08-15 | Amazon Technologies, Inc. | Alignment and reflow of displayed character images |
US9013454B2 (en) * | 2012-03-02 | 2015-04-21 | Ricoh Co., Ltd. | Associating strokes with documents based on the document image |
EP2674946A1 (en) * | 2012-03-30 | 2013-12-18 | Samsung Electronics Co., Ltd | Method and apparatus for updating at least one tag of multimedia content |
CN103257956B (zh) * | 2013-04-19 | 2016-06-15 | 小米科技有限责任公司 | 一种电子文档的数据更新方法及装置 |
US9684642B2 (en) | 2013-04-19 | 2017-06-20 | Xiaomi Inc. | Method and device for updating electronic document and associated document use records |
US9575948B2 (en) * | 2013-10-04 | 2017-02-21 | Nook Digital, Llc | Annotation of digital content via selective fixed formatting |
US9542391B1 (en) | 2013-11-11 | 2017-01-10 | Amazon Technologies, Inc. | Processing service requests for non-transactional databases |
US10540404B1 (en) | 2014-02-07 | 2020-01-21 | Amazon Technologies, Inc. | Forming a document collection in a document management and collaboration system |
US11336648B2 (en) | 2013-11-11 | 2022-05-17 | Amazon Technologies, Inc. | Document management and collaboration system |
US10599753B1 (en) | 2013-11-11 | 2020-03-24 | Amazon Technologies, Inc. | Document version control in collaborative environment |
US9898451B2 (en) | 2013-11-26 | 2018-02-20 | Adobe Systems Incorporated | Content adaptation based on selected reviewer comment |
US10691877B1 (en) * | 2014-02-07 | 2020-06-23 | Amazon Technologies, Inc. | Homogenous insertion of interactions into documents |
US10691878B2 (en) * | 2014-02-28 | 2020-06-23 | Ricoh Co., Ltd. | Presenting associations of strokes with content |
US10338793B2 (en) * | 2014-04-25 | 2019-07-02 | Timothy Isaac FISHER | Messaging with drawn graphic input |
US20160070688A1 (en) * | 2014-09-05 | 2016-03-10 | Microsoft Corporation | Displaying annotations of a document by augmenting the document |
US9807073B1 (en) | 2014-09-29 | 2017-10-31 | Amazon Technologies, Inc. | Access to documents in a document management and collaboration system |
KR20160055552A (ko) * | 2014-11-10 | 2016-05-18 | 삼성전자주식회사 | 메모 표시 방법 및 이를 위한 디바이스 |
US10324618B1 (en) * | 2016-01-05 | 2019-06-18 | Quirklogic, Inc. | System and method for formatting and manipulating digital ink |
US10755029B1 (en) | 2016-01-05 | 2020-08-25 | Quirklogic, Inc. | Evaluating and formatting handwritten input in a cell of a virtual canvas |
US11577159B2 (en) | 2016-05-26 | 2023-02-14 | Electronic Scripting Products Inc. | Realistic virtual/augmented/mixed reality viewing and interactions |
US10248880B1 (en) * | 2016-06-06 | 2019-04-02 | Boston Inventions, LLC | Method of processing and recognizing hand-written characters |
US10599320B2 (en) | 2017-05-15 | 2020-03-24 | Microsoft Technology Licensing, Llc | Ink Anchoring |
US10318109B2 (en) | 2017-06-09 | 2019-06-11 | Microsoft Technology Licensing, Llc | Emoji suggester and adapted user interface |
US10430924B2 (en) * | 2017-06-30 | 2019-10-01 | Quirklogic, Inc. | Resizable, open editable thumbnails in a computing device |
RU2665261C1 (ru) * | 2017-08-25 | 2018-08-28 | Общество с ограниченной ответственностью "Аби Продакшн" | Восстановление текстовых аннотаций, связанных с информационными объектами |
CN108304361B (zh) * | 2018-02-12 | 2019-09-24 | 掌阅科技股份有限公司 | 电子书手写笔记的显示方法、计算设备及计算机存储介质 |
US10867124B2 (en) * | 2018-03-26 | 2020-12-15 | Apple Inc. | Manual annotations using clustering, anchoring, and transformation |
US11531673B2 (en) | 2018-05-24 | 2022-12-20 | Sap Se | Ambiguity resolution in digital paper-based interaction |
US11443103B2 (en) * | 2020-10-07 | 2022-09-13 | Rakuten Kobo Inc. | Reflowable content with annotations |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5220649A (en) * | 1991-03-20 | 1993-06-15 | Forcier Mitchell D | Script/binary-encoded-character processing method and system with moving space insertion mode |
US5559942A (en) | 1993-05-10 | 1996-09-24 | Apple Computer, Inc. | Method and apparatus for providing a note for an application program |
US5621871A (en) | 1994-08-31 | 1997-04-15 | Jaremko; Mark | Automated system and method for annotation using callouts |
US5831615A (en) * | 1994-09-30 | 1998-11-03 | Intel Corporation | Method and apparatus for redrawing transparent windows |
GB9426165D0 (en) * | 1994-12-23 | 1995-02-22 | Anthony Andre C | Method of retrieving and displaying data |
US5832474A (en) * | 1996-02-26 | 1998-11-03 | Matsushita Electric Industrial Co., Ltd. | Document search and retrieval system with partial match searching of user-drawn annotations |
JPH10228473A (ja) * | 1997-02-13 | 1998-08-25 | Ricoh Co Ltd | 文書画像処理方法、文書画像処理装置および記憶媒体 |
JPH1186015A (ja) | 1997-09-09 | 1999-03-30 | Canon Inc | 情報処理方法及び装置及びその記憶媒体 |
US6356922B1 (en) * | 1997-09-15 | 2002-03-12 | Fuji Xerox Co., Ltd. | Method and system for suggesting related documents |
-
1998
- 1998-12-30 US US09/222,962 patent/US6687876B1/en not_active Expired - Fee Related
-
1999
- 1999-12-23 DE DE69916225T patent/DE69916225T2/de not_active Expired - Lifetime
- 1999-12-23 EP EP99310482A patent/EP1016983B1/en not_active Expired - Lifetime
- 1999-12-27 JP JP36962399A patent/JP3807181B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
EP1016983A3 (en) | 2000-12-27 |
EP1016983A2 (en) | 2000-07-05 |
JP2000200266A (ja) | 2000-07-18 |
DE69916225D1 (de) | 2004-05-13 |
DE69916225T2 (de) | 2004-09-23 |
US6687876B1 (en) | 2004-02-03 |
EP1016983B1 (en) | 2004-04-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3807181B2 (ja) | 論理的関係の指示維持方法及びシステム | |
JP4981219B2 (ja) | インクの分類、係留、および変換 | |
US6952803B1 (en) | Method and system for transcribing and editing using a structured freeform editor | |
JP4486325B2 (ja) | フリーフォーム文書エディタ用のライティングガイドを表示するための方法 | |
US7747650B2 (en) | Authoring tools, including content-driven treetables, for fluid text | |
US7825922B2 (en) | Temporary lines for writing | |
JP4907715B2 (ja) | テキストドキュメント及びイメージドキュメントを同期化、ディスプレイ、及び操作するための方法及び装置 | |
JP4235500B2 (ja) | 認識されたテキストおよびオブジェクトと共にインクオブジェクトを表示しリンクする方法、およびシステム | |
RU2358316C2 (ru) | Разделитель чернил и интерфейс соответствующей прикладной программы | |
US6766494B1 (en) | Method and system for creating ad-hoc links from free-form ink | |
US5623679A (en) | System and method for creating and manipulating notes each containing multiple sub-notes, and linking the sub-notes to portions of data objects | |
EP0902379A2 (en) | A method and system for organizing documents based upon annotations in context | |
US7962846B2 (en) | Organization of annotated clipping views | |
KR20040107446A (ko) | 디지털 문서 처리 방법과 디지털 잉크 스트로크 처리방법, 및 이를 포함하는 컴퓨터-판독가능 매체 | |
JP2006172460A (ja) | 3次元電子文書のページに注釈を付ける方法 | |
WO1992016900A1 (en) | Script/binary-encoded-character processing method and system with moving space insertion mode | |
US7185278B1 (en) | Separating and moving document objects using the movement of a wiper bar | |
Plimmer et al. | Beautifying sketching-based design tool content: issues and experiences | |
US7296240B1 (en) | Document object membranes | |
JP3032225B2 (ja) | 3次元表示を用いた文書編集装置 | |
Lecolinet et al. | Text-image coupling for editing literary sources |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040126 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050607 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050808 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051115 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060116 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060207 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060407 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20060418 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060425 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060508 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3807181 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100526 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110526 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110526 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120526 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130526 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140526 Year of fee payment: 8 |
|
EXPY | Cancellation because of completion of term |