JP2003298837A - 電子画像を作成し操作するための図形入力及び表示システム、表示装置に入力されたソース電子画像を意味のある画像オブジェクトに編成するための方法、及びコンピュータ読取り可能プログラムコードが組み込まれたコンピュータ使用可能媒体を含む製品 - Google Patents

電子画像を作成し操作するための図形入力及び表示システム、表示装置に入力されたソース電子画像を意味のある画像オブジェクトに編成するための方法、及びコンピュータ読取り可能プログラムコードが組み込まれたコンピュータ使用可能媒体を含む製品

Info

Publication number
JP2003298837A
JP2003298837A JP2003076852A JP2003076852A JP2003298837A JP 2003298837 A JP2003298837 A JP 2003298837A JP 2003076852 A JP2003076852 A JP 2003076852A JP 2003076852 A JP2003076852 A JP 2003076852A JP 2003298837 A JP2003298837 A JP 2003298837A
Authority
JP
Japan
Prior art keywords
image
objects
primary
bitmap
new
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003076852A
Other languages
English (en)
Inventor
Eric Saund
ソーンド エリック
Thomas P Moran
ピー.モラン トーマス
Daniel L Larner
エル.ラーナー ダニエル
James V Mahoney
ヴィー.マホニー ジェームズ
David J Fleet
ジェイ.フリート デイビッド
Ashok C Popat
シー.ポパット アショク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xerox Corp
Original Assignee
Xerox Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xerox Corp filed Critical Xerox Corp
Publication of JP2003298837A publication Critical patent/JP2003298837A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Record Information Processing For Printing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 【課題】 余分の処理を最小限にし、画像内の広範囲の
テキスト及びグラフィックデータの編集を可能にする。 【解決手段】 文書の電子画像を生成し、編集するため
の図形入力及び表示システムは、電子画像の要素を操作
するためのユーザ入力装置と、電子画像を表示手段に入
力するための画像入力装置と、画像編集動作の要求を受
け取り、メモリ構造にアクセスするために接続されるプ
ロセッサと、1次画像オブジェクトを形成するために新
しい画像マテリアルを入力するための、又は既存の画像
マテリアルを選択し、修正するためのユーザ・インタラ
クション・モジュール、可視画像要素を作成し、無制限
のグループ化構造を維持するためのグループ化モジュー
ル、及びグラフィック画像のビューを提示するためのデ
ータ出力モジュールを含むプログラムメモリと、データ
入力データ構造及びデータ出力データ構造を含むデータ
メモリと、から構成される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は概してグラフィック
画像操作システムに係り、詳細には、文書の電子画像を
生成し、編集するための方法に関する。
【0002】
【従来の技術及び発明が解決しようとする課題】画像エ
ディタの主要な2つの種類は、構造化グラフィックス、
即ち、ベクトルベースエディタと、ディジタルペイン
ト、即ち、ラスタベースエディタである。構造化グラフ
ィックス・エディタは、直線、曲線、多角形等のグラフ
ィックオブジェクトを編集するのに好適である。写真等
の他のタイプの画像は、ピクセル強度の2次元ラスタに
関してマーキングの全バリエーション及び色調を保存す
る「ペイント」型エディタで編集されることがさらに好
適である。ペイント型画像編集プログラムは、ラスター
書式電子画像の取り込みと編集を支援(サポート)す
る。削除、複写、移動、回転、及び拡大縮小(スケーリ
ング)等の更なる操作のための画像領域を選択するため
の種々の手段が提供される。これらのプログラムは一般
的な写真画像の編集のために設計され、文書のラスタ画
像を編集する更に専門化された機能及び要求事項を付与
する支援の程度において制限されるという問題がある。
【0003】
【課題を解決するための手段】本発明は、上記課題を解
決するためになされた。本発明の第1の態様は、電子画
像の要素を操作するためのユーザ入力手段と、電子画像
を表示手段に入力するための画像入力手段と、画像編集
動作の要求を受け取り、メモリ構造にアクセスするため
に接続されるプロセッサと、1次画像オブジェクトを形
成するために新しい画像マテリアルを入力するための、
又は既存の画像マテリアルを選択し、修正するためのユ
ーザ・インタラクション・モジュール、可視画像要素を
作成し、無制限のグループ化構造を維持するためのグル
ープ化モジュール、及びグラフィック画像のビューを提
示するためのデータ出力モジュールを含むプログラムメ
モリ手段と、データ入力データ構造及びデータ出力デー
タ構造を含むデータメモリ手段と、を含む、電子画像を
作成し操作するための図形入力及び表示システムであ
る。
【0004】本発明の第2の態様は、任意の既存画像マ
テリアルを選択し、1次画像オブジェクトを確立し、画
像マテリアルを修正し、無制限のグループ化構造を再構
築すること、を含む、表示装置に入力されたソース電子
画像を意味のある画像オブジェクトに編成するための方
法である。
【0005】本発明の第3の態様は、コンピュータ読取
り可能プログラムコードが組み込まれたコンピュータ使
用可能媒体を含む製品であって、上記プログラムコード
が上記コンピュータによって実行されると、上記コンピ
ュータにディスプレイ上に入力された電子画像を編集
し、操作するための方法ステップを実行させるととも
に、上記方法ステップは、電子画像を1次画像オブジェ
クトに分解し、上記1次画像オブジェクトがそれぞれ1
つ以上のグループに所属し各グループが1つ以上の1次
画像オブジェクトを含むように、上記1次画像オブジェ
クトを無制限の1次画像オブジェクトのグループに編成
し、新しい1次画像オブジェクトを作成し、1つ以上の
1次画像オブジェクトのユーザ操作に応じて上記1次画
像オブジェクトのグループのすべて又は一部を1次画像
オブジェクトの1つ以上のグループに再編成すること、
を含む。
【0006】
【発明の実施の形態】文書画像を編集するための方法及
び装置をここに開示する。以下の説明において、本発明
を完全に理解するために、削除及び挿入の各操作を実行
するための文字間隔の計算等の多くの具体的な詳細が示
される。しかしながら、このような具体的な詳細がなく
ても当業者が本発明を実行することは理解できるだろ
う。その他の例において、文書画像から文字を抽出する
ための構文解析(パーシング)技術等の具体的な実施詳
細は不必要に本発明を分かりにくくしないように詳細に
は示されていない。
【0007】文書画像が走査処理、ビデオソース、画面
スナップショット、ディジタルカメラ、ディジタルイン
ク入力装置、又はその他周知の文書ソースを介して得ら
れた画像のビットマップ方式の表示にすぎないことに留
意すべきである。本発明をビットマップ表示を有する文
書と共に使用することもできる。例えば、画像のビット
マップ表示をビデオソースから入手するためにフレーム
グラバーが使用される。このようなビットマップ表示は
本発明を具体化するシステム上で編集されることができ
る。さらに、走査された文書画像、画像のビットマップ
表示、及びビットマップ画像はここでは置き換え可能に
使用され、同等の意味を有するものと見なされる。
【0008】以下の説明で理解できるように、本発明は
画像に含まれるテキスト及び線画(ラインアート)を編
集することにおいて特に有利である。ファックス送信さ
れ又はディジタル複写機で複写された文書は一般に、主
としてテキスト及び図形を含む画像を意味する。従来技
術に関して説明されたように、画像に含まれるテキスト
のいずれかを編集するために光学式文字認識(OCR)
等の余分の処理、又は画像情報を層状に配置することを
実行しなければならないのはよくあることである。理解
できるように、本発明は余分の処理を最小限にするとと
もに、画像内の広範囲のテキスト及びグラフィックデー
タの編集を可能とするようにテキスト及びグラフィック
画像情報の双方を定義することに対して付加的な柔軟性
を提供する。
【0009】本発明の使用の実例が図1及び図2に示さ
れている。図1は新聞から電子画像として入手され、コ
メント250に加えてフレーム210、220、23
0、及び240も含む。図2は、フレーム230及び2
40を選択し、これらがフレーム210及び220の下
側に配置されるように配置を変えることによって本発明
の少数の簡潔な動作で構成される。「頭(head)」とい
う言葉がフレーム240において選択され、「鼻(nos
e)」という言葉に置き換えられているが、これは、フレ
ーム270において図形内の他の文字を借用し、それら
の文字を複写し、さらに所定位置に移動させることによ
って作成される。同様に、元のフレーム220のベッド
ポスト(寝台の支柱)が選択され、フレーム260に図
示されるように長さが変えられる。コメント250は図
1から削除され、図2のコメント280に置き換えられ
る。既存のペイント方式又は構造化グラフィックス方式
の画像編集ツールが文書画像のこの種の編集を支援する
ように設計されていないので、図1から図2を作成する
タスクは、利用可能プログラムを使用して実質的に辛う
じて行なえるにすぎないか、あるいは全く不可能であ
る。
【0010】ここで使用される用語は画像及び関連構造
を説明し、以下で定義される用語は特許請求の範囲を含
む本明細書の全体を通じて示される意味を有する。
【0011】「文字(character)」は書込みシステムに
見られる個々の要素を意味する。このように文字はアル
ファベットや数値的な要素のみならず、句読点、発音区
別符、数学及び論理記号、及びその他の要素を含むこと
がある。さらに一般に、文字は英数字要素に加えて、音
声学的要素、表意文字的要素、又は絵文字要素を含むこ
とがある。「文字タイプ」とは、文字「a」又は数字
「3」などを例とする、文字のカテゴリーである。
【0012】「語(word)」は、言語における意味論的単
位として取り扱われる1つ以上の文字の集合である。
「テキスト(text)」は1行以上の文字列の配列であり、
テキストの文字は語を構成する。
【0013】「画像」は光のパターンである。画像は、
文字、語、及びテキストの他に、図形等のその他の特徴
もまた含むことがある。
【0014】「データ構造」はデータの相互に関係した
項目の組み合わせである。データの項目は、データ構造
におけるそれらの位置又は他の項目のデータを用いてア
クセス可能とされる場合にデータ構造に「含まれ」、そ
の含まれたデータの項目は別のデータ構造となる。逆に
言えば、データの項目は、削除などによりアクセス不能
にすることによってデータ構造から「除去」されること
ができる。「データのアレイ」、「データアレイ」、又
は「アレイ」は、アレイにマッピングされることができ
るデータの項目を含むデータ構造である。「2次元アレ
イ」は、データの項目が2次元を有するアレイにマッピ
ングされることができるデータアレイである。
【0015】データ構造は、他のデータ構造のデータを
用いてデータ構造を作成する動作によって別のデータ構
造から「取得する」ことができる。例えば、他のアレイ
の一部と同一である小型のアレイを作成したり、他のア
レイと同一である一部を含む大型のアレイを作成した
り、他のアレイを複写したり、又は他のアレイあるいは
その複写においてデータを修正するなどの動作によっ
て、別のアレイからアレイを「取得する」ことができ
る。
【0016】「データ単位」は、データ構造内で一単位
としてアクセス可能なデータの項目である。「アレイデ
ータ単位」は、アレイを定義するのに十分なデータを含
むデータ単位であり、例えば、アレイデータ単位は定義
されたアレイそのもの、定義されたアレイの圧縮又は符
号化形式、定義されたアレイに対するポインタ、定義さ
れたアレイが取得可能とされる別のアレイの一部に対す
るポインタ、又は定義されたアレイが取得可能とされる
小型アレイの集合に対するポインタを含むものでもよ
い。
【0017】データは、画像を作成するための十分な情
報を含む場合に、画像を「定義する」。例えば、2次元
アレイは画像の全部又は何れか一部を定義することがで
き、アレイ内のデータの各項目は、画像の個々の位置の
色を指示する値を付与する。「文字サイズアレイ」は、
単に1つの文字又は文字サイズ要素を定義する2次元ア
レイである。
【0018】画像の各位置又は単一の画素は「ピクセ
ル」と称される。全体として考えてみると、ピクセルは
画像を形成する。データの各項目が値を付与する画像を
定義するアレイにおいて、一つの位置の色を指示する各
値は「ピクセル値」と称される。各ピクセル値は、画像
の「2進形」のビット、画像の「グレイスケール形式」
のグレイスケール値、又は画像の「色座標形式」の色空
間座標の集合である。2進形、グレイスケール形式、及
び色座標形式はそれぞれ、画像を定義する2次元アレイ
である。さらに、ピクセル値は透明度を表示することが
できる。2値画像において「白」又は背景ピクセルは透
明(ユーザから見えない)として扱われ、事前にディス
プレイに描画された黒のピクセルを見えるようにする。
同様に、グレイスケール画像の1つ以上の値は透明度を
表示するするために確保される。そして、透明度チャネ
ル、即ち「アルファ」チャネルは、「より下にある」ピ
クセルに関してピクセルの明度の透明度又は不透明度を
表示するために色ピクセルと対応付けられたり、あるい
は、前もって表示データ構造に描画されることができ
る。
【0019】「ビットマップ」は、ピクセルを表示する
データ構造においてディジタルメモリに保存されるビッ
トを参照する。ここで使用されているように、「ビット
マップ」は、カラーピクセル又はグレイスケールピクセ
ル等のそれぞれのピクセルに対し更なる情報を有する
「ピクセルマップ」と同様に、各ピクセルのいずれかが
オン又はオフである場合には白黒のそれぞれのピクセル
を出力するためのデータ構造を参照することができる。
「解像度」は、表示又は印刷された画像のピクセルのサ
イズ、形状、及び分離を参照する。例えば、密に配置さ
れた微小ピクセルの表示されたビットマップは、配置間
隔が広い大きなピクセルを有する表示されたビットマッ
プよりも解像度が大きく、即ち、より精密度が高い。
「表現(レンダー)」は、文字輪郭等の画像記述からビ
ットマップを作成することを参照する。
【0020】「ビットマップ・オブジェクト」はラスタ
画像であり、可視電子キャンバス上で「ビットマップ・
オブジェクト」の位置付けを指示する(x,y)座標を
加えたものである。「ビットマップ・オブジェクト」に
おけるピクセルは、いずれかのカラー値、又は「透明」
の値を取る。透明度は代替的に、どのピクセルが透明で
あるかを指示する対応付けられるアルファ2値ラスタ画
像によって表示されてもよい。所与のソース画像は、
「ビットマップ・オブジェクト」、又は適切に位置決め
された数個の構成要素「ビットマップ・オブジェクト」
の集合として表示されてもよい。これらの代替的な表示
はユーザには理解できないこともあり、それぞれの位置
で「ビットマップ・オブジェクト」の集合を表示するこ
とによって結果が表示される場合に検査による検出が不
可能であることもある。
【0021】「ラスタ」は、行及び列を成して配列され
るピクセルのアレイを表示することによって画像を作成
する出力装置上のピクセルの配列を参照する。ラスタ出
力装置は、レーザプリンタ、コンピュータディスプレ
イ、ビデオディスプレイ、LCDディスプレイ等を含
む。「コード化」データは、計算装置において例えばビ
ットマップ形式の生データよりも正確且つ容易に計算装
置において操作されるように設計された「コード」によ
って表示される。「非コード化」データはコードによっ
て表示されないデータである。例えば、小文字「a」
は、符号化データ、例えば、アスキー(ASCII)コ
ード化における第97番目として表示されたり、ディス
プレイスクリーン又はプリンタ等の出力装置上に「a」
の外観を作成するために使用される非コード化グラフィ
ック又は画像データとして表示されてもよい。フォント
は通常、コード化データを非コード化データと対応付け
る1つ以上の対応付けられた「符号化」を有する。
【0022】第1の画像の「バージョン」は、第1の画
像を定義するデータを用いて作成される第2の画像であ
る。第2の画像は第1の画像と同一であってもよく、解
像度の喪失、第1の画像を定義するデータの変化、又は
バージョンが変更される結果となる他の処理によって修
正されることができる。画像の「ビュー(view)」は、
ユーザに対し表示される画像のバージョンであり、ビュ
ーは画像の詳細の一部を省略したり、又は修正されるこ
とができる。
【0023】「テキスト編集操作」は、実施対象となる
データが、テキストであるかのように処理されることが
できる要素のラインを定義することを想定する操作であ
る。テキスト編集操作の例は、要素(エレメント)を挿
入及び削除する、タイプフェース等の要素の特徴を変化
させる、位置合わせ及び間隔を変更する、カーソル位置
決め、行端揃え、文字又はカーソルを次行に移動させ
る、文字又は文字のシーケンスを探索する、などがあ
る。
【0024】「文字レベルテキスト編集操作」は、編集
中のテキストにおける文字又は文字サイズ要素に影響を
与えるテキスト編集操作である。文字レベルテキスト編
集操作の例は、文字を挿入、削除、変更、及び位置決め
する、カーソルを文字に位置決めする、文字を探索す
る、などがある。
【0025】「1次画像オブジェクト」又は「1次オブ
ジェクト」は、大型のグラフィック構造を構成するグラ
フィック要素であり、ビットマップ・オブジェクトを含
むものでもよいが、ペン−ストローク(pen−str
oke)オブジェクト等の他のオブジェクトも同様に含
むものでよい。「1次オブジェクト」は不変ではなく、
小型の「1次オブジェクト」に分解されることによって
断片化されたり、他の「1次オブジェクト」と組み合わ
せることによって拡大されることができる。「複合オブ
ジェクト」は「1次オブジェクト」の集合と対応付けら
れ、これにより、個々の基本的グラフィック構成要素又
はそれらの組み合わせを参照する。この解釈のもとに、
「1次オブジェクト」は、画像においてピクセルの表示
された外観と直接対応付けられ、「複合オブジェクト」
は、それらを構成する「1次オブジェクト」を通じての
み画像の物理的外観を参照する。画像と対応付けられる
「複合オブジェクト」の集合は、ユーザが知覚的に一貫
性のある画像マークの集合へのアクセスを獲得するため
の抽象的オブジェクトの集合を構成する。どちらのタイ
プのオブジェクトも、空間的位置、概略的方向付け、サ
イズ等の特性にその他種々の特性を加えたものを本来備
えている。
【0026】「連結構成要素」は、画像を定義するデー
タアレイ内のピクセルの集合であり、ピクセルはすべ
て、互いに隣接したり、集合内の他のメンバーにともに
隣接するように適切な規則によって互いに連結されてい
る。2進形の画像の連結構成要素は、黒等の同一の2進
値を有する連結されたピクセルの集合を含むことがあ
る。「連結構成要素集合」又は「構成要素集合」は、単
位として処理される連結構成要素の集合である。文字は
このため、構成要素集合であってもよく、例えば、文字
「i」は、連結構成要素が文字を「形成する」英文テキ
ストにおける単一の文字として処理される2つの連結構
成要素を含む。文字又は他の構成要素集合のための「境
界ボックス(文字枠)」は、構成要素集合内のすべての
ピクセルを含むのに十分な大きさの直線形領域であり、
垂直及び水平の両方向に最小及び最大限度拡張する。
【0027】テキストを含む画像の修正バージョンを作
成するために使用されるデータは、テキスト内の文字に
関する情報を含むことがある。文字に関する「同一性情
報」は、その文字のタイプ、大文字/小文字、タイプフ
ェース、ポイントサイズ等を識別する情報である。文字
を「認識する」ことは、文字を含む画像のディジタル形
式から文字に関する同一性情報を得ることを意味する。
文字に関する「空間的情報」は、文字の大きさ、形状、
位置、方向付け、他の文字との位置合わせ等の空間的特
徴を識別する情報である。空間的情報及び同一性情報は
完全に独立していないが、文字に関する空間的情報は、
文字を認識することなく画像を定義する2次元アレイか
ら得ることができる。
【0028】図3を参照すると、システム300は、画
像入力装置320及びユーザ入力装置330からの信号
を受信するように接続されるプロセッサ310を含む。
画像入力装置320は、スキャナ、ファクシミリ受信機
もしくは他の画像受信機、カメラ、又は他の適切な装置
でもよく、あるいは、画像をディジタル形式に保存する
局所又は遠隔メモリの一部でもよい。ユーザ入力装置3
30は、例えば、マウス付きのキーボードでもよい。プ
ロセッサ310はさらに、画面表示、プリンタ、ファク
シミリ送信機若しくは他の画像送信機、又は画像をディ
ジタル形式に保存する局部又は遠隔メモリの一部等の画
像出力装置340に接続される。
【0029】プロセッサ310はさらに、プログラムメ
モリ350及びデータメモリ360にアクセスするよう
に接続されている。プログラムメモリ350は、データ
準備モジュール352、ユーザ・インタラクション・モ
ジュール354、グループ化モジュール356、ハイパ
ーリンクモジュール357、及び画像出力モジュール3
58を含む。データメモリ360は、画像入力データ構
造362、解析画像データ構造364、及び画像出力デ
ータ構造366を含む。
【0030】データ準備モジュール352のルーチンを
実行する際、プロセッサ310は画像入力装置320か
ら2次元データアレイと等価な画像入力データ構造36
2にデータをロードする。プロセッサ310は、データ
準備を実行し、画像オブジェクトを準備し、ユーザがア
クセスするのに好都合であるようにグループ化する。
【0031】データ準備モジュール352は、数個のデ
ータ構造と処理モジュールを利用する。図示されたよう
に、解析画像データ構造364は、画像領域データアレ
イと称される1つ以上の従属データ構造を含む。各画像
領域データアレイは、1つ以上のアレイデータ単位を含
み、それぞれがテキスト及び線画データ、連続階調若し
くは写真データ、又は中間調データを定義する。画像領
域アレイには、ビットマップ・オブジェクトの形式の1
次画像オブジェクトによる表示が付与される。セグメン
テーションモジュール355はテキスト及びグラフィッ
ク画像マテリアルを小型の基本的ビットマップ・オブジ
ェクト又は他のタイプの1次画像オブジェクトに分解す
る。
【0032】グループ化モジュール356は、1次画像
オブジェクトが分割、移動、及び結合されていても、1
次画像オブジェクトと複合オブジェクトとの関係の格子
を維持し、ある時には構築する能力がある。グループ化
モジュール356はまた、複合オブジェクトによって表
示されるべき知覚上有意義なグループを識別するために
自動認識ルーチンを含む。ハイパーリンク357は、人
間であるユーザにとって知覚的に顕著であるが、個々の
データオブジェクトによって表示されない画像構造を表
わす電子画像の任意の領域に対しハイパーリンクを確立
し、以下で更に詳細に説明される。
【0033】データ準備のある段階は、テキスト及びグ
ラフィック画像マテリアルを小型の1次画像オブジェク
トに分解し、グループ化操作を実行して視覚上目に見え
る構造を表示する断片(フラグメント)のグループを形
成する。ユーザ・オプションの制御を受けて、これらの
段階は、データ準備モジュール352によって自動的に
実行されたり、又は実行されないこともあり、これらの
段階は、ユーザ・インタラクション・モジュール354
を介してユーザによって呼び出されることもできる。
【0034】図4は、図3に関して説明された、データ
準備モジュール352によって実行されるデータ準備に
おけるステップを示す。最初に、ステップ410におい
てソース画像が受け取られ、ステップ415では、受け
取られた画像が連続階調写真として処理されるべきかど
うかについて決定がなされる。この決定は自動的であっ
たり、又はユーザ制御オプションとして定められること
ができる。画像が写真として処理すべきである場合、ス
テップ430に渡される。
【0035】画像を写真として処理すべきでない場合、
ステップ420において、文書画像セグメンテーション
を実行すべきかどうかが決定される。文書画像セグメン
テーションが画像に適用されると、ステップ425にお
いて、当該分野周知の文書画像セグメンテーション処理
が実行されて、画像は3種類の画像領域、即ち、テキス
ト及び図形、連続階調/写真、中間調の各領域にセグメ
ント化される。連続階調/写真及び中間調のそれぞれの
画像領域はステップ430に渡され、ビットマップ・オ
ブジェクトはそれらを表示するように作成される。これ
らは、ユーザ・インタラクション・モジュール354に
よるユーザ編集のコマンドを介して動作されるべき1次
画像オブジェクト435となる。テキスト及び線画/グ
ラフィック領域はステップ440に渡される。ステップ
420のユーザ制御によるオプションによって決定され
たように、文書画像セグメンテーションが画像に適用さ
れなければ、画像全体はステップ440によって表示さ
れるように、テキスト及び線画又は図形として処理され
る。
【0036】ステップ445において、前景ピクセルを
背景ピクセルから区別するために画像処理操作が実行さ
れる。文書画像において、前景ピクセルは一般に、周辺
背景よりも暗い。本件出願人による米国特許出願第09
/158,443号に開示されているような、種々のフ
ィルタリング動作を利用して背景ピクセルをそのものと
して分類することができる。ステップ450では、これ
らのピクセル値は、それぞれに適切な透明度ビットを設
定することによって「透明(目に見えない)」状態とさ
れる。
【0037】オプションのステップ455において、処
理されたソース画像を、それぞれがユーザ選択による未
加工の候補である多数の基本的ビットマップ・オブジェ
クトに分解するかどうかが決定される。例えば、ステッ
プ460では、ビットマップ・オブジェクトが、前景ピ
クセルの連結構成要素の文字サイズに対応する多数の小
型ビットマップ・オブジェクトと、米国特許出願第09
/199,699号に記載されるように、線画の比較的
直線の断片にセグメント化されることができる。あるい
はまた、断片化されてないビットマップ・オブジェクト
は出力ステップ465へ渡される。
【0038】ステップ470では、複合オブジェクトへ
の基本的ビットマップオブジェクトの有効な収集、又は
グループを識別するためにオプションのステップ475
を実行するかどうかについて決定される。例えば、ワー
ド、テキストの行、及びテキストの列を形成する文字サ
イズ・ビットマップ・オブジェクトは望ましいグループ
を形成することになる。このグループ化を実行するため
の手順は以下で詳細に述べられる。ステップ475から
のこれらグループ化された1次画像オブジェクト及び複
合オブジェクトは、495で図示される格子構造の複合
オブジェクトに編成される透過形背景を備えた断片化1
次画像オブジェクトとしてステップ485へ送られ。1
次オブジェクトがグループ化すべきでなく、結果のグル
ープが複合オブジェクトによって表示される場合、49
0で図示されるように透過形背景を備えた複数の断片化
1次画像オブジェクトとしてステップ480へ送られ
る。データ準備段階の結果として、1つ以上のビットマ
ップ・オブジェクトが作成される。テキスト及びグラフ
ィック画像を表示するビットマップ・オブジェクトは、
前景ピクセルを可視状態にし、背景ピクセルを透過(目
に見えない)状態にし、複合オブジェクトが構築され
る。
【0039】ユーザ・インタラクション段階の間に、ユ
ーザは、新しい画像マテリアルがタイピング、あるいは
マウスやスタイラスで入力されたり、又は、アプリケー
ション内部や外部アプリケーションの何れかからのクリ
ップボードデータ構造から複写されるインタラクション
・サイクルに参加する。あるいはまた、ユーザは図5に
示される既存の画像マテリアルを選択し、修正すること
もできる。図5において、可視画像は、(境界ボックス
内に示される)大きなビットマップ・オブジェクト51
0と、それよりも小さなビットマップ・オブジェクト5
30に位置し、さらにその境界ボックス内部に示され、
ビットマップ・オブジェクト510の境界内に位置決め
される画像マテリアルに関して表示される。この例にお
いて、ビットマップ・オブジェクト530は「アイテム
1」を含み、ビットマップ・オブジェクト510は「ア
イテム2」というフレーズを含む。ユーザは、一部のマ
テリアルを含む画像領域をビットマップ・オブジェクト
510及びビットマップ・オブジェクト530の双方か
ら選択することもできる。この場合、選択領域は破線の
曲線550によって表示される。この選択は、(それぞ
れの境界ボックス内に示される)2つの新しいビットマ
ップ・オブジェクト570及び580を作成し、前景マ
テリアルを新しく選択された領域に分離する。新しいビ
ットマップ・オブジェクト570及び580はまた、ビ
ットマップ・オブジェクト530からマテリアル「1」
を除去して560に図示される状態にし、背景ビットマ
ップ・オブジェクトを、ビットマップ・オブジェクト5
20に示すように、境界ボックス内に示される、ワード
「2」を除いたワード「アイテム」のみに変化させる。
領域510及び530における対応前景ピクセルは、
「透過形」の値に設定される。データ構造はここで、ユ
ーザが変換動作、例えば、570及び580における画
像マテリアルを別の位置に移動させて空きスペース(5
10における透過形背景ピクセル)を残すような動作を
実行できる状態になっている。
【0040】図6及び図7を参照する。図7は、1次オ
ブジェクトがユーザ選択により分割又は断片化される、
1つの可能なユーザインタラクション手順を示すフロー
チャートである。図6は、図7のフローチャートによっ
て記載された方法の動作を示す線図である。1次オブジ
ェクトリストにおいて1次オブジェクト「A」、
「B」、「C」、及び「D」を有し、複合オブジェクト
「CO1」を形成する元のグループ化構造600から始
まり、ステップ710において、画像マテリアルが閉経
路610を入力することにより選択され、1次オブジェ
クトからの所望のマテリアルを囲む。例示として、マテ
リアルが自由形式経路の使用により選択されるとした
が、その他多数の手段、例えば、矩形ドラッギング、多
角形選択、1回のマウスクリックによる既存の基本画像
オブジェクトの選択、多数回のマウスクリックによる既
存の画像オブジェクトのグループの選択、及び選択動作
を実行しながら、シフトキー等の単一の事前指定キーを
押してグループ構造の編集などを用いてもよいことは留
意すべきである。所望のマテリアルは、テキスト文字及
びワード、又は他の形状等の1つ以上のオブジェクトを
含むことができる。それぞれの1次オブジェクト
「A」、「B」、「C」及び「D」が対応境界ボックス
615を所有することに留意されたい。ステップ720
において、プロセッサは、選択経路が交差したか又は該
経路によって囲まれた1次オブジェクトを検出し、それ
らを影響を受ける1次オブジェクト620として識別す
る。影響を受ける1次オブジェクトのビットマップは、
ステップ730において選択経路に従って断片に分解さ
れ、図6に示すように断片化1次オブジェクトとして形
成される。かかる例では、3つの断片化1次オブジェク
ト632、634及び636が形成されることに留意す
べきである。それぞれの断片化1次オブジェクトの境界
ボックスサイズは、ステップ740において各断片化1
次オブジェクトごとに前景マテリアルの最小境界ボック
スサイズに縮小され、前景ピクセルを含まない断片が除
去される。ステップ750において、プロセッサは選択
経路によって囲まれた断片化1次オブジェクト及び影響
された非断片化1次オブジェクトを収集して、囲まれた
1次オブジェクト632、634、636及び640を
形成する。プロセッサは次にステップ760において、
囲まれた1次オブジェクトのグループを表示する新しい
仮の複合オブジェクトを作成する。この時点で、ユーザ
は選択動作を実行し、システムはそのタスクを完了し、
ステップ765において次のコマンドを受け取るために
一時停止する。ステップ770では、次のコマンドがグ
ループを確立するかどうかについて決定される。グルー
プを確立すべきでない場合、ステップ775においてプ
ロセッサは断片化1次オブジェクト及び仮の複合オブジ
ェクトを放棄する。グループを確立する場合、断片化が
容認される。プロセッサは次にステップ780におい
て、元の1次オブジェクトリストから影響された1次オ
ブジェクトを除去し、断片化1次オブジェクトを1次オ
ブジェクトリストに追加する。ステップ790におい
て、プロセッサは影響された1次オブジェクトによって
支援された複合オブジェクトを位置付ける。このような
複合オブジェクトのそれぞれに対し、プロセッサは影響
された1次オブジェクトによる支援を、囲まれた1次オ
ブジェクトへの支援リンクに置き換える。新しいグルー
プ化構造650は、元の1次オブジェクト「A」及び
「B」、(断片化1次オブジェクト632に対応する)
断片化1次オブジェクト「C1」、(断片化1次オブジ
ェクト634に対応する)「C2」、(断片化1次オブ
ジェクト636に対応する)「C3」、及び囲まれた1
次オブジェクト「D」によって支援される新しい複合オ
ブジェクト「CO1」を示す。
【0041】プロセッサが実行するグループ化構造の自
動再構築は図8のフローチャートにおいて示されるとと
もに、図9では図式的に示される。最初に図9を参照す
ると、初期の空間配列は、例えば、初期の空間配列91
0として識別される5つの1次オブジェクト「A」、
「B」、「C」、「D」及び「E」を含む。この説明の
ためにテキスト文字が使用されるとしているが、空間配
列がテキスト若しくはグラフィック文字、又はエレメン
トの組み合わせを含むことは理解されるだろう。これら
1次オブジェクトは、初期のグループ化構造の第1の複
合オブジェクト920を支援する。1次オブジェクトの
一部がグループ構造を消去するのに十分な距離だけ移動
されると、1次オブジェクトの2つの新しい空間配列、
930及び940が形成される。あるいはまた、方向付
け(オリエンテーション)、色、形状類似性、サイズ類
似性、又は他の特徴は、グループ構造を消去するための
基準として使用されることもある。2つの新しい複合オ
ブジェクトは、空間配列930が新しい複合オブジェク
ト950によって表示され、且つ空間配列940が新し
い複合オブジェクト960によって表示されるように再
構築される。
【0042】図8に戻ってフローチャートを参照する
と、プロセッサが続けてグループ化構造を自動的に再構
築する手順が示されている。最初にプロセッサは、ステ
ップ810において(もしあれば)どの複合オブジェク
トが移動された1次オブジェクトによって支援されるか
を決定し、ステップ820においてそれらを影響を受け
る複合オブジェクトとして識別する。プロセッサは次に
ステップ830において、移動された1次オブジェクト
の新しい位置がグループ構造を消去するために元の空間
配列から十分に除去されるかどうかを決定する。グルー
プ構造が消去されたことをプロセッサが判断すると、ス
テップ840において、プロセッサは、移動されなかっ
た1次オブジェクトを含む新しい複合オブジェクトを再
構築する。プロセッサは次にステップ850において、
移動された1次オブジェクトによって支援される新しい
複合オブジェクトを作成し、ステップ820に戻って次
の複合オブジェクトのためにステップ820、830、
840及び850を繰り返す。
【0043】図10を参照すると、フローチャートにお
いて、新しい1次オブジェクトの作成、及びマージ・コ
マンドの使用による複合オブジェクト構造の改訂のため
のステップが示される。ステップ1010において、ユ
ーザはマージされる1次オブジェクトを選択する。プロ
セッサはステップ1020において、選択された1次オ
ブジェクトの結合のための境界ボックスを決定する。境
界ボックスは常に、1次オブジェクトの結合に対応する
ように最小サイズである。ステップ1025において境
界ボックスのサイズに対応する新しい空白のビットマッ
プが作成される。ステップ1030において、プロセッ
サはすべての選択された1次オブジェクトからの前景マ
テリアルを新しいビットマップに複写し、この新しいビ
ットマップ用の新しい1次オブジェクトを作成する。ス
テップ1040において、選択された1次オブジェクト
が元の1次オブジェクトリストから除去される。ステッ
プ1050において、プロセッサは新しい1次オブジェ
クトを元の1次オブジェクトリストに追加する。ステッ
プ1060において、プロセッサはすべての選択された
1次オブジェクトによって支援された複合オブジェクト
を位置付け、これらを完全支援された複合オブジェクト
として識別する。完全支援された複合オブジェクトのそ
れぞれに対し、ステップ1070においてプロセッサ
は、選択された1次オブジェクトからの支援リンクを新
しい1次オブジェクトへの支援リンクに置き換える。ス
テップ1080において、プロセッサは、選択された1
次オブジェクトの部分集合と同様、選択されたオブジェ
クトの一部ではない1次オブジェクトを含む複合オブジ
ェクトを位置付け、これらを部分支援された複合オブジ
ェクトとして識別する。部分支援された複合オブジェク
トのそれぞれに対し、プロセッサはステップ1090に
おいて、1次オブジェクトへの支援リンクを除去して部
分支援された1次オブジェクトをグループ化構造を示す
リンクグラフから取り除く。
【0044】図11に示す方法は、一例として1次オブ
ジェクトリストでのマージ・ステップと、その結果とし
て生じる効果を示している。マージは上述されたグルー
プ化モジュール内で発生し、システムオペレーションの
ユーザ・インタラクション段階の時に生じる。一例とし
て、初期の1次オブジェクトリストは構成要素「A」、
「B」、「C」及び「D」を含む。ステップ1110に
おいて、1次オブジェクトリスト上に現われる1次オブ
ジェクトの集合が識別され、これら1次オブジェクトの
一部、この例では、「B」及び「C」が選択されてマー
ジされた1次オブジェクトを形成する。ステップ112
0において、選択された1次オブジェクトの結合のため
の境界ボックスが決定される。ステップ1130では、
選択された1次オブジェクトのすべてからの前景マテリ
アルが新しいビットマップに複写されると、この新しい
ビットマップの新しい1次オブジェクトが作成される。
このように、「B」及び「C」を結合して新しい1次オ
ブジェクト「F」を形成すると、1140では1次オブ
ジェクトリストから1次オブジェクト「B」及び「C」
が除去され、1150では1次オブジェクトリストに新
しい1次オブジェクト「F」が追加されるという結果に
なる。
【0045】プロセッサは次に1160において、すべ
ての選択された1次オブジェクトによって支援される複
合オブジェクトを位置付け、これらを完全支援された複
合オブジェクトとして識別する。ここに図示されるよう
に、完全支援された複合オブジェクト「CO1」は1次
オブジェクト「A」、「B」、「C」及び「D」によっ
て支援される。ステップ1170において、プロセッサ
は選択された1次オブジェクト「B」及び「C」から支
援リンクを除去し、それらを新しい1次オブジェクト
「F」への支援リンクに置き換える。プロセッサは次に
ステップ1180において、他の非選択1次オブジェク
トと同様に、選択された1次オブジェクトの一部(但
し、すべてとは限らない)を含む複合オブジェクトを位
置付け、これらを部分選択された複合オブジェクトとし
て識別する。この例において、部分支援された複合オブ
ジェクト「CO2」は1次オブジェクト「A」及び
「B」を含む。部分支援された複合オブジェクトのそれ
ぞれに対し、プロセッサは1次オブジェクトへのすべて
の支援リンクを除去し、これによりステップ1190に
おいて「CO2」をグループ化構造から削除する。ある
いはまた、部分支援された複合オブジェクトが多数の非
選択1次オブジェクトを含む場合、部分支援された複合
オブジェクトを破壊又は保持するように選択することも
できる。
【0046】部分支援された複合オブジェクトが保持さ
れる場合、選択された1次オブジェクトへの支援リンク
のみが除去される。かかる例では、部分支援された複合
オブジェクトが選択された1次オブジェクトの要素(メ
ンバー)以外の1次オブジェクトを1つだけ含んでいた
ことにより、選択された1次オブジェクト支援リンクの
除去と同時にグループ化構造から複合オブジェクト「C
O2」を削除するという結果になるのは、複合オブジェ
クトが1つ以上の1次オブジェクトを含む必要があるか
らである。しかしながら、部分支援された複合オブジェ
クトが選択された1次オブジェクトの部分集合に加えて
複数の非選択1次オブジェクトを含む場合、選択された
1次オブジェクトへの支援リンクが除去されると、部分
支援された複合オブジェクトが残りの非選択1次オブジ
ェクトを含む複合オブジェクトとして残存する。
【0047】図12を参照すると、行及び列を成して配
列され、1次オブジェクトリストに属する9つの可能な
1次オブジェクト「A」、「B」、「C」、「D」、
「E」、「F」、「G」、「H」、及び「I」が示され
ている。これらの1次オブジェクトは図12のbに図示
される行タイプグループ化に分類される。ここで、1次
オブジェクト「A」、「B」、及び「C」は複合オブジ
ェクト「R1」を支援し、1次オブジェクト「D」、
「E」、及び「F」は複合オブジェクト「R2」を支援
し、1次オブジェクト「G」、「H」、及び「I」は複
合オブジェクト「R3」を支援する。あるいはまた、図
12のcは、列タイプグループ化を示し、1次オブジェ
クト「A」、「D」、及び「G」は複合オブジェクト
「C1」を支援し、1次オブジェクト「B」、「E」、
及び「H」は複合オブジェクト「C2」を支援し、1次
オブジェクト「C」、「F」、及び「I」は複合オブジ
ェクト「C3」を支援する。既存のグラフィック画像エ
ディタにおいて、両グループ化は図12のdに図示され
るような格子状態では同時に利用できない。格子グルー
プ化では、1次オブジェクトが多数の複合オブジェクト
を支援するように無制限な1次オブジェクトの部分集合
が複合オブジェクトにグループ化されることができる。
この例において、1次オブジェクト「A」は複合オブジ
ェクト「R1」及び「C1」の両者を支援し、1次オブ
ジェクト「B」は複合オブジェクト「R1」及び「C
2」を支援し、以下同様である。この格子状態はオブジ
ェクト間のリスト及びポインタに関して表示される。
【0048】グループは数々の方法で作成されることが
できるが、例えば、ユーザがオブジェクトの集合を選択
し、それらを明示メニューコマンドによって、これらの
オブジェクトが要素である他のグループとは関係のない
グループとして設定することもできる。あるいはまた、
ユーザはオブジェクトの集合を選択し、ユーザが移動さ
せたり、回転させたり、拡大縮小したり、又はオブジェ
クトの集合上で操作することによってプロセッサに対し
自動的にグループを作成することもできる。プロセッサ
はまた、画像における有効なグループを識別する画像解
析プロセスの適用によって自動的にグループを作成する
ことができる。ワードを形成する連結成分のグループを
識別する方法は図13に示される。
【0049】図13において、プロセッサはサイズごと
に連結成分にフィルタをかけて、指定しきい値サイズよ
りも大きかったり小さかったりするオブジェクトを除去
する。ステップ1310において、プロセッサは使用可
能な成分のサイズを決定する。しきい値よりも大きい成
分は、ステップ1320において識別され、ステップ1
370では可能なグループ構造から除去される。残りの
成分のなかで、第2の指定しきい値よりも小さい成分は
ステップ1330において識別され、ステップ1370
では可能なグループ構造から除去される。プロセッサは
さらに、重み付き距離が第3のしきい値よりも小さい連
結成分の中でリンクを形成する。重み付き距離を決定す
る際に、プロセッサはリンクの近接性、即ち空間的な近
辺内の一部のオブジェクト間の関連性を当該技術周知の
方法によって考慮することもできる。重みづけがリンク
の相対方向に基づく場合、重みづけはリンクの一方向に
対し他方向と比べてより強くなることがある。重みづけ
は自動的に又は周辺の画像マテリアルの空間解析によっ
て決定することもできる。ステップ1340において、
プロセッサは連結成分の重み付き距離を決定し、ステッ
プ1350において重み付き距離がしきい値を越える成
分を識別する。重み付けされた値がしきい値を超える成
分はステップ1370において、可能なグループ構造か
ら除去される。ステップ1360では、プロセッサが成
分間のリンクに追随することによってグループを蓄積す
る。この方法の例は、図9を参照して上記に図示され且
つ説明される。
【0050】グループを解消するために幾つかの方法を
使用することができる。例えば、ユーザがグループを選
択し、明示メニューコマンドによってそれを廃止するこ
ともできる。あるいはまた、ユーザが、所属するグルー
プの他の要素から十分に離れたオブジェクトをドラッグ
又は移動させる時に、プロセッサが自動的にオブジェク
トをグループから除去することもできる。
【0051】本出願において「タッピング」、「クリッ
キング・オン」、又は、オブジェクトを選択することに
対して参照されることに留意すべきである。これらの用
語は、オブジェクトを選択するという動作を交換可能に
参照することを目的としている。タッピングという用語
は一般に、ペン入力計算システムのスタイラスを画面又
はタブレットに接触させ、その直後に(即ち、所定時間
内に)スタイラスを実質的に(即ち、例として2ピクセ
ル分等の所定量よりも小量)移動させずに画面から持ち
上げる物理的動作に関して使用される。これはペン入力
計算システムにおける一般的なオブジェクトの選択方法
である。「クリッキング・オン」という用語は範囲をよ
り広くする意図があり、タッピングのみならず、他のポ
インタ装置を用いてオブジェクトを選択することと同様
に、マウス又はトラックボールに対応付けられるボタン
を用いてオブジェクトを選択する動作をも網羅するよう
に意図される。
【0052】特定のオブジェクトが多数のグループに所
属することもあり、図12に示される画像マテリアルを
グループ化を選択するためのある方法が図14に示され
る。例えば、ユーザがオブジェクトを一度クリック又は
タッピングすると(この場合、ステップ1410におい
て「D」)、選択される項目は「D」である。ユーザが
ステップ1420において、再度「D」をクリック又は
タッピングすると、選択される次のものは、当該オブジ
ェクトが要素であるグループのリストの最初、この例で
は「C1」である。ステップ1430にあるような、次
のオブジェクトに対するクリックは、オブジェクトが支
援する残りのグループ、例えば「R2」を選択する。最
後に、すべてのグループがこのように選択された後で、
ステップ1440にあるようにオブジェクトをクリック
又はタッピングすることにより、全てを非選択状態に
し、プロセスが再び開始する。このようにクリック又は
タッピングを繰り返すことによって、ユーザがサイクル
動作し、オブジェクトによって支援されるグループを識
別することが可能である。
【0053】図14の方法によって識別されるグループ
の優先待ち行列が並べ換えられ、最後に使用されたグル
ープはリストの前方に押し上げられる。優先待ち行列
は、他の基準、例えば、最小から最大への空間の範囲、
知覚上の顕著性の手段、又はユーザによって最近使用さ
れた選択基準の背景によっても同様に順序付けられるこ
とができる。後者の例は、ユーザが縦列グループ化を選
択しているように見える場合である。この場合、プロセ
ッサは、縦列グループに属するオブジェクトがグループ
の構成要素優先待ち行列においてこのグループを押し上
げる可能性がある。グループの並べ換えは、階層的シー
ケンスにおいてオブジェクトをユーザに提示するよう
に、ユーザが最も関心のある知覚オブジェクトの種類に
関するユーザの意図を推論し、最も好ましいとされるオ
ブジェクトが最初にくる。これは、ユーザが繰り返しク
リックしながら見ている複合オブジェクトにおいて優先
順位及び順序付けを設定する。
【0054】図15に示されるように、選択されたもの
を編集するためにグループ化構造を使用することもでき
る。この例において、ユーザは1500においてオブジ
ェクト「A」、「B」、「C」、「D」、「E」、及び
「F」を作成し、オブジェクト「C」は、オブジェクト
「C」及び「D」を含むグループに偶然に所属すること
になり、他のグループは設定されていない。ユーザがオ
ブジェクト「A」、「B」、「E」、及び「F」を選択
したいと思う場合、ステップ1510でオブジェクト
「A」をクリックすることによってオブジェクト「A」
を選択する1つのアプローチがある。次に、キーボード
上の特定のキー(例えば、シフトキー)を押さえ、別の
オブジェクトをクリックすることによって、このオブジ
ェクトは、ステップ1515では「B」、ステップ15
20では「E」、ステップ1525では「F」であるよ
うに、選択されたオブジェクトの集合に追加される。あ
るいはまた、ユーザはステップ1530では、おそらく
周囲を囲むようなジェスチュアによってオブジェクトの
すべてを選択し、ステップ1535では「C」を、さら
にステップ1540では「D」をそれぞれシフトクリッ
クすることによって「C」及び「D」を除去するように
してもよい。別の代替案として、ステップ1550にお
いて周囲を囲むようなジェスチュアによってオブジェク
トのすべてを選択し、ステップ1555及び1560に
おけるように「C」を2度シフトクリックすることによ
ってグループとして「C」及び「D」を除去する。最初
のシフトクリックは選択から「C」を除去する。次の
「C」上でのシフトクリックは、「C」が所属するグル
ープを非選択状態にし、ステップ1560に示されるよ
うに、オブジェクト「A」、「B」、「E」、及び
「F」をグループの残留オブジェクトとして残す。
【0055】本発明はこれらの選択ツールを利用してオ
ブジェクト及び宛て先又はソース間のハイパーリンクを
確立する。現在使用可能なツールは構造化画像オブジェ
クト間、又は単純形状の画像領域間のハイパーリンクの
形成を支援するが、「ホット」領域が任意形状であるが
知覚上顕著な画像オブジェクトであるリンクを指定する
ための簡単便利且つ有効な方法はない。現在のツールを
使用して、ユーザはその領域に対し、円形、矩形、及び
多角形等の定義済み幾何学形状のアレイの中から選択し
なければならない。次にユーザは、好ましくはグラフィ
ッカル・ユーザ・インタフェースを用いて形状オブジェ
クトのパラメータを指定しなければならない。このプロ
セスは、多数の異なるハイパーリンクが隣接する複雑形
状の画像領域に対し設定される必要がある場合、単調で
問題を含む可能性がある。
【0056】オブジェクト及び宛て先又はソース間で単
一方向性又は双方向性ハイパーリンクを確立するための
能力が、画像処理及び解析技術に基づき、ここに記載さ
れた選択ツールによって付与される。未分化画像から始
まり、一定の基本画像オブジェクトが自動的に定義さ
れ、これらの一定の顕著なグループ化が確立される。簡
単なマウスとキーボードの操作を用いてユーザは追加の
画像オブジェクトを1次画像オブジェクト又は複合画像
オブジェクトとして容易に確立することができる。ユー
ザはその後、これらのオブジェクトと、それらが定義す
る複合領域を、単にマウスをそれらの上でクリックする
ことによって選択することができる。
【0057】図16は、オブジェクトと、宛て先又はソ
ースとの間に双方向ハイパーリンクを作成するための方
法を示す。ステップ1610において、選択された画像
オブジェクト(複数の場合もある)がハイパーリンクの
ソース又は宛て先になることがある。このリンクは、右
側マウスボタンをクリックし、ステップ1620で示さ
れる、ポップアップメニューから「リンク」項目を選択
することによって確立されることができる。ユーザは次
に、ステップ1630においてリンクがどこを指示する
かを指定する。これは、テキスト入力ボックス又は当該
技術周知のまた別の手段を介して実現することができ
る。このリンクを例示化するために、システムはステッ
プ1640において、選択された画像オブジェクトに最
適な形状を使用可能なリンクソース形状(例えば、円
形、矩形、多角形)の中から選択する。このオブジェク
トのパラメータはステップ1650において、画像領域
の特性から自動的に計算される。例えば、多角形選択形
状の地点が、凸閉包、外側境界線、又は選択された領域
の形状に対するその他導出された幾何学的近似値から地
点をサンプリングすることによって計算される。多数の
隣接しない画像パッチによって定義される画像オブジェ
クトからのリンクは、同一の宛て先を指示する多数のソ
ース領域を確立することによって支援される。
【0058】既存のハイパーリンク標準のもとでは、所
与の画像位置が多数のハイパーリンクを支援したり、又
は支援しないこともある。例えば、2つの重複するハイ
パーリンクソース多角形の場合、ユーザが交差領域でク
リックすると、ファイル内のどの領域に多角形が最初に
現われるかに応じて一方の又は他方のリンクに続いて起
こることになる。これとは反対に、本発明は、従来のハ
イパーリンク式文書フォーマットよりも高度なリンク構
造を提供する。本発明では、画像の同一パッチを共用す
る多数のグループの選択を可能にする。ユーザは、マウ
スボタンを繰り返しクリックすることによって所与の位
置に関連する選択されたオブジェクト間をサイクル動作
することができる。画像ビューアーとして、本発明は、
複雑な複合オブジェクトを含む選択可能な画像オブジェ
クトがそれぞれの独立したハイパーリンクを有すること
を可能にする。これらのリンクには、左側マウスボタン
のクリック、例えば、ダブルクリック、右側ボタンのク
リック、又はポップアップメニューの使用を介して続く
リンクの選択に引き続いて起こる右側ボタンのクリック
以外の動作が続く可能性がある。
【0059】本発明は、ペンストローク及びビットマッ
プ・オブジェクトを含む基本画像オブジェクトの多数の
可能なグループ化を表示する格子構造を管理するための
準備に寄与する。例えば、ユーザは、図17に示すよう
に、タイプ打ちテキストを手書きのメモ等の手書きマテ
リアルに容易に置き換えることができる。図17におい
て、ラフな手書きマテリアル1710はタイプ打ちされ
たマテリアル1720に置き換えられ、代替の形式的関
係(フォーマリティリレーション)1730を介してタ
イプ打ちされたマテリアル1720に対応付けられる。
光学式文字認識(OCR)システムにおける検証機(ベ
リファイア)の従来技術は、強調表示された一定の領域
を備えた走査画像マテリアルを表示するシステムの能力
を示し、次にユーザが、強調表示された走査マテリアル
をシステム周知のフォントの1つにおいて形式的に生成
された文字に置き換えるテキストをタイプする。
【0060】本発明はこの機能性を2つの方法で補強す
る。まず、上述された選択機構を組み込む。システムが
ユーザに、タイプされたテキストと置き換えられる元の
画像マテリアルの単一の選択だけを提示するのみなら
ず、代わりにどの画像マテリアルが置き換えられるかを
正確に選択することができる。これは、本明細書で開示
されたツール(矩形ドラッギング、自由形式経路ドラッ
ギング、多角形選択、1度のマウスクリックによる確立
された基本画像オブジェクトの選択、多数回のマウスク
リックによる確立された画像オブジェクトのグループの
選択、及び選択動作を実行しながら、シフトキー等の予
め指定された1つのキーを押すことによるグループ構造
の編集)のすべて又はいずれか1つを使用して実現され
る。これらの動作は、基本画像オブジェクトと、これら
のグループ化を表示する複合オブジェクトとの関係の格
子構造を利用する。画像マテリアルがこれらの手段のい
ずれかによって選択された後で、ユーザはテキストのタ
イピングを開始することができる。テキストが入力され
ると、選択された画像マテリアルはディスプレイから除
去され、タイプされたテキストの画像と置き換えられ
る。
【0061】この機能性は、ある種の自動文字認識が提
供されるシステムにも適用することは留意すべきであ
る。このような場合、ユーザがテキストをタイピングす
る代わりに、ユーザはユーザ選択された画像マテリアル
にのみ適用される文字認識システムを呼び出すことがで
きる。このようにユーザは、認識するために付与される
画像入力マテリアルの複雑性を軽減することにより、例
えば、関係のない画像マテリアルによって包囲及び侵入
される場合ではなく、OCR/ICRシステムが首尾よ
く分離して認識する単語を隔離することにより、文字認
識システムのジョブを簡略化することができる。
【0062】次に、本発明は、ユーザがソース画像マテ
リアルをタイプされたテキストに置き換える間において
も確立されたグループ構造を維持するための方法を教示
する。タイプされたテキストに置き換えられる1次画像
オブジェクト(例えば、ビットマップ・オブジェクト)
は多くの場合、複合オブジェクトによって表示されるグ
ループに関与することがある。これらのグループは、可
能ならば選択されたビットマップ・オブジェクトが除去
されてタイプされたテキストに置き換えられる場合でも
保存されるべきである。これは、図18のフローチャー
トに図示される方法にしたがって実現される。ここで、
タイプされたテキストは、テキストストリング・ビット
マップ・オブジェクトと称される特殊なビットマップ・
オブジェクトを用いてディスプレイに入力される。これ
は、ASCII文字の集合にフォントファミリー、フォ
ントサイズ、フォントカラー等の印刷技法(タイポグラ
フィー)情報を加えたものに対応付けられるビットマッ
プ・オブジェクトである。テキスト文字及び印刷技法情
報は、このビットマップ・オブジェクトをその書式化さ
れたテキストの外観に関してユーザによって修正するこ
とができる。
【0063】ステップ1810において、システムへの
入力はビットマップ・オブジェクトを含み、グループ構
造は複合オブジェクトの格子、テキストストリング・ビ
ットマップ・オブジェクト(TSBO)、及びTSBO
が画像ディスプレイ上で置換することになる選択された
ビットマップ・オブジェクトのリスト化によって表示さ
れる。これは図19に図示され、グループ化ダイアグラ
ム1910では、複合オブジェクトCO1がビットマッ
プ・オブジェクトB01、B02及びB03によって支
援される。複合オブジェクトCO2は、ビットマップ・
オブジェクトB02、B03、B04、及びB05によ
って支援される。ビットマップ・オブジェクトの一部
(この場合はB03、B04、及びB05)は、TSB
Oに置き換えるために「選択」されるものとして識別さ
れる。図18を参照すると、ステップ1820では選択
された画像オブジェクトが単一のビットマップ・オブジ
ェクトから構成されるかどうかが判断される。
【0064】選択された画像オブジェクトが単一のビッ
トマップ・オブジェクトから構成されない場合、ステッ
プ1830において、選択されたビットマップ・オブジ
ェクトの集合に対応する複合オブジェクトが識別され
る。これは図19に図示されるグループ化ダイアグラム
1920において示され、複合オブジェクトCO3は、
選択されたビットマップ・オブジェクトB03、B0
4、及びB05に対する複合オブジェクトである。
【0065】また図18に戻って、ステップ1840で
は、プロセッサが複合オブジェクトと新しいTSBOと
の代替の形式的関係を作成する。これは図19に示され
るグループ化ダイアグラム1930において示され、代
替の形式的関係1935が複合オブジェクトCO3とT
SBO間で確立される。また図18に戻り、ステップ1
850において、プロセッサは、支援するビットマップ
・オブジェクトが追加のビットマップ・オブジェクトと
同様に選択されたビットマップ・オブジェクトの集合全
体を含む、複合オブジェクトを識別する。このような複
合オブジェクトをそれぞれ支援する追加のビットマップ
・オブジェクトは非選択支援ビットマップ・オブジェク
トとして識別される。図19のグループ化ダイアグラム
1930において理解できるように、支援が選択された
ビットマップ・オブジェクトの集合全体に追加のビット
マップ・オブジェクトを加えたものを含む複合オブジェ
クトはCO2である。この場合、非選択支援ビットマッ
プ・オブジェクトはBO2である。
【0066】図18をさらに参照すると、ステップ18
60では、プロセッサが非選択支援ビットマップ・オブ
ジェクトからリンクを除去し、これらを過去のリンクと
して識別する。プロセッサは次に、支援が非選択支援ビ
ットマップ・オブジェクトに新しいTSBOを加えた、
同等の複合オブジェクトを作成する。これは図19のグ
ループ化ダイアグラム1940に示され、対応複合オブ
ジェクトはCO2’である。代替の形式的関係1945
がTSBO及び複合オブジェクトCO3の間に存在す
る。過去のリンク1943は複合オブジェクトCO2と
ビットマップ・オブジェクトB02との間のリンク全体
と置換する。
【0067】図18をさらに参照すると、ステップ18
70において、プロセッサは、支援が選択されたビット
マップ・オブジェクトの集合全体を含まない複合オブジ
ェクトを識別し、これらの複合オブジェクトを支援する
非選択ビットマップ・オブジェクトへのリンクを除去す
る。これらは、ディスプレイで置換するタイプされたテ
キストが置換された元の不定型ビットマップ・オブジェ
クトに置き換えられる場合に復元される過去のリンクと
して保存される。これは図19にグループ化ダイアグラ
ム1950として示され、ここでは複合オブジェクトC
O1が、支援が選択されたビットマップ・オブジェクト
の集合全体を含まないが、追加のビットマップ・オブジ
ェクト(この場合はB01及びB02)を含む、複合オ
ブジェクトとして識別される。非選択ビットマップ・オ
ブジェクトB01及びB02へのリンクは除去され、過
去のリンク1952及び1954によって置き換えられ
る。上記に説明されたように、複合オブジェクトCO2
とビットマップ・オブジェクトB02との間の全リンク
もまた、過去のリンク1958に置き換えられ、代替の
形式的関係1956は複合オブジェクトCO3とTSB
Oとの間に存続する。
【0068】さらに図18を参照すると、ステップ18
80では選択されたビットマップ・オブジェクトがディ
スプレイから除去され、新しいTSBOがディスプレイ
に追加される。図19のグループ化ダイアグラム196
0では、破線の左側にある1次オブジェクトはユーザか
ら可視状態にあるが、破線の右側にあるオブジェクトは
ユーザから不可視とされる。理解できるように、選択さ
れたビットマップ・オブジェクトB03、B04、及び
B05はユーザから不可視とされ、同等の複合オブジェ
クトCO2’を支援する新しいテキストストリング・ビ
ットマップ・オブジェクト(TSBO)に置き換えられ
ている。代替の形式的関係1966はTSBO及び複合
オブジェクトCO3との間に存続するので、必要に応じ
てユーザによって処理の逆転を可能にする。過去のリン
ク1964は、複合オブジェクトCO1と対応付けられ
るのでアクセス不能であり、同様に、過去のリンク19
68もディスプレイ上ではアクセスできない。
【0069】図18に再度戻って、選択された画像オブ
ジェクトが単一のビットマップ・オブジェクトから構成
される場合、ステップ1822ではプロセッサが、選択
されたビットマップ・オブジェクトと新しいTSBOと
の間に代替の形式的関係を作成する。これは、図20の
グループ化ダイアグラム2010に示され、選択された
単一のビットマップ・オブジェクトB09が代替の形式
的関係2012を介してTSBOに接続される。この例
において、ビットマップ・オブジェクトB06、B0
7、及びB09は複合オブジェクトCO4を支援し、ビ
ットマップ・オブジェクトB07、B08、及びB09
は複合オブジェクトCO5を支援する。
【0070】図18をさらに参照すると、ステップ18
24では、プロセッサが選択されたビットマップ・オブ
ジェクトによって支援されるそれぞれの複合オブジェク
トを識別し、ビットマップ・オブジェクトへの支援リン
クを新しいTSBOへの支援リンクに置き換える。図2
0のグループ化ダイアグラム2020では、複合オブジ
ェクトCO4及びCO5間の選択されたビットマップ・
オブジェクトB09への支援リンクはTSBOへのそれ
ぞれの支援リンク2026及び2024に置き換えられ
ている。代替の形式的関係2022はTSBOと選択さ
れたビットマップ・オブジェクトB09とを続けて接続
する。
【0071】図18をさらに参照すると、ステップ18
26では、プロセッサがディスプレイから選択されたビ
ットマップ・オブジェクトを除去し、それを新しいTS
BOに置き換える。図20のグループ化ダイアグラム2
030では、選択されたビットマップ・オブジェクトB
09がディスプレイ上でユーザから不可視であり、TS
BOに置き換えられる。
【0072】上述された手順の結果は、再構成された構
造格子であり、これによってTSBOはディスプレイ内
で可視となる表示画像オブジェクトのリスト内の選択さ
れたビットマップ・オブジェクトに置換し、一方、選択
されたビットマップ・オブジェクトを含むグループはT
SBOに対応付けられるようになる。この構造は「過去
のリンク」を残し、元のグループ化に関する情報を保存
する。このため、従来のグループ化構造のすべてととも
に、TSBOを交換し、置換した元のビットマップ・オ
ブジェクトを復元することを可能にする。
【0073】テキストマテリアルを表わすビットマップ
・オブジェクトをテキストストリング・ビットマップ・
オブジェクトにおいて表示されるタイプされたテキスト
に置き換えることに関して本発明のこの態様について説
明してきたが、この手順が単なるグラフィック又は線画
データにも同様に適用され、これにより先のグループ化
関係を維持しながら画像プリミティブのグループを形式
的グラフィック・オブジェクトに置き換え可能とするこ
とは留意すべきである。例えば、図21は、手書きの四
角形が四角形の形式的且つ正確なグラフィック画像に置
き換え可能であることを示す。図21において、ディス
プレイ上で見られる画像は、三角形、手書きの四角形、
及び六角形を含む。個々のビットマップ・オブジェクト
はビットマップ・オブジェクト1(三角形)、3−5
(四角形)、及び6(六角形)を含む。グループ化ダイ
アグラム2130はこの画像に対応付けられるグループ
化構造を示す。複合オブジェクト「Row」がビットマ
ップ・オブジェクト1、2、3、4、5、及び6を含む
一方で、複合オブジェクト「四角形」はビットマップ・
オブジェクト2、3、4、及び5を含む。グループ化ダ
イアグラム2140では、代替の形式的関係2142が
TSBO及び複合オブジェクト「四角形」の間に確立さ
れている。グループ化ダイアグラム2150では、選択
されたビットマップ・オブジェクトがディスプレイから
除去され、TSBOに置き換えられている。ディスプレ
イ上で、修正された画像は2160に現われ、手書きの
四角形が形式的幾何学オブジェクトに置き換えられてい
る。この手順を使用すると、図式的四角形は元の手書き
の四角形が関与したグループ(例えば、「Row」グル
ープ)に関与することができる。理解されるように、こ
のタイプされたテキスト置換技術は、ドラッギングによ
って選択し、多数のマウスクリックにより選択してグル
ープ間をサイクル動作する能力を含む、上記で提示され
た選択技術の背景において使用されることができる。
【0074】
【発明の効果】本発明は上記のように構成されているの
で、画像に含まれるテキスト及び線画を編集することに
おいて特に有利であり、余分の処理を最小限にするとと
もに、画像内の広範囲のテキスト及びグラフィックデー
タの編集を可能にするという優れた効果を有する。
【図面の簡単な説明】
【図1】本発明によって修正される見本のグラフィック
画像を示す図である。
【図2】本発明による修正後の図1の見本のグラフィッ
ク画像を示す図である。
【図3】本発明に従って画像を編集することのできるシ
ステムの一般的な構成要素を示すブロック図である。
【図4】本発明による編集のためのグラフィックデータ
を作成するステップを示すフローチャートである。
【図5】本発明の実施の形態によるビットマップ・オブ
ジェクトの作成へのアプローチを示す図である。
【図6】図7のステップに続く選択による1次オブジェ
クトの分割を示す図である。
【図7】選択により1次オブジェクトを分割するステッ
プを示すフローチャートである。
【図8】グループ化構造の再構築のためのステップを示
すフローチャートである。
【図9】図8のステップに続くグループ化構造の再構築
を示す図である。
【図10】マージングによる新しい1次オブジェクトの
作成のためのステップを示すフローチャートである。
【図11】図10のステップに続く新しい1次オブジェ
クトの作成を示す図である。
【図12】a乃至dは可能なグループ化構造を示す図で
ある。
【図13】連結成分のグループを識別するためのステッ
プを示すフローチャートである。
【図14】オブジェクトが属するグループを識別するた
めのステップを示す図である。
【図15】グループ化構造を使用して選択されたオブジ
ェクトを編集することを示す図である。
【図16】本発明による双方向ハイパーリンクを確立す
るためのステップを示すフローチャートである。
【図17】手書きマテリアルのタイプされたテキストへ
の置換を示す図である。
【図18】手書きマテリアルのタイプされたテキストへ
の置換のためのステップを示すフローチャートである。
【図19】選択された画像オブジェクトが多数のビット
マップ・オブジェクトから構成される場合、手書きマテ
リアルをタイプされたテキストに置換する間のグループ
化構造に対する調整を示す図である。
【図20】選択された画像オブジェクトが単一のビット
マップ・オブジェクトから構成される場合、手書きマテ
リアルをタイプされたテキストに置換する間のグループ
化構造に対する調整を示す図である。
【図21】正確なグラフィック・オブジェクトが手書き
マテリアルに代用される際の画像及びグループ化構造へ
の変化を示す図である。
フロントページの続き (72)発明者 トーマス ピー.モラン アメリカ合衆国 94301 カリフォルニア 州 パロ アルト グリーンウッド アベ ニュー 1037 (72)発明者 ダニエル エル.ラーナー アメリカ合衆国 95120 カリフォルニア 州 サン ノゼ オーク キャニオン ド ライブ 1495 (72)発明者 ジェームズ ヴィー.マホニー アメリカ合衆国 94306 カリフォルニア 州 パロ アルト アルト メサ アベニ ュー 4175 (72)発明者 デイビッド ジェイ.フリート アメリカ合衆国 94025 カリフォルニア 州 メンロ パーク ケンウッド ドライ ブ 520 (72)発明者 アショク シー.ポパット アメリカ合衆国 94070 カリフォルニア 州 サン カルロス シーダー ストリー ト 625 アパートメント ケー. Fターム(参考) 2C187 AD03 CC03 CC08 CC09 CD13 CD19 DB21 FC17 5B021 AA01 AA19 LE00 5B050 AA10 BA07 BA16 BA20 CA07 EA12 EA14 EA19 FA02 5C076 AA19 AA36 CA02 CA11 (54)【発明の名称】 電子画像を作成し操作するための図形入力及び表示システム、表示装置に入力されたソース電子 画像を意味のある画像オブジェクトに編成するための方法、及びコンピュータ読取り可能プログ ラムコードが組み込まれたコンピュータ使用可能媒体を含む製品

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 電子画像の要素を操作するためのユーザ
    入力手段と、 電子画像を表示手段に入力するための画像入力手段と、 画像編集動作の要求を受け取り、メモリ構造にアクセス
    するために接続されるプロセッサと、 1次画像オブジェクトを形成するために新しい画像マテ
    リアルを入力するための、又は既存の画像マテリアルを
    選択し、修正するためのユーザ・インタラクション・モ
    ジュール、可視画像要素を作成し、無制限のグループ化
    構造を維持するためのグループ化モジュール、及びグラ
    フィック画像のビューを提示するためのデータ出力モジ
    ュールを含むプログラムメモリ手段と、 データ入力データ構造及びデータ出力データ構造を含む
    データメモリ手段と、を含む、電子画像を作成し操作す
    るための図形入力及び表示システム。
  2. 【請求項2】 任意の既存画像マテリアルを選択し、 1次画像オブジェクトを確立し、 画像マテリアルを修正し、 無制限のグループ化構造を再構築すること、 を含む、表示装置に入力されたソース電子画像を意味の
    ある画像オブジェクトに編成するための方法。
  3. 【請求項3】 新しい複合オブジェクトの作成は、 断片化1次オブジェクトと、閉じた選択経路によって囲
    まれる残りの非断片化1次オブジェクトを収集して、囲
    まれた1次オブジェクトを形成し、 囲まれた一次オブジェクトのグループを表わす仮の複合
    オブジェクトを作成し、 1次オブジェクトリストから影響を受けた1次オブジェ
    クトを除去し、 断片化1次オブジェクトを前記1次オブジェクトリスト
    に追加し、 囲まれた1次オブジェクトへの支援リンクを作成するこ
    と を含む、請求項2に記載の表示装置に入力されたソース
    電子画像を意味のある画像オブジェクトに編成するため
    の方法。
  4. 【請求項4】 無制限のグループ化構造の再構築は、 複数の1次画像オブジェクトによって支援される複合オ
    ブジェクトを識別し、1つ以上の1次画像オブジェクト
    を移動させ、 移動された1次画像オブジェクトの新しい位置がグルー
    プ構造を無効化するかどうかを決定し、 移動されてない1次画像オブジェクトで新しい複合オブ
    ジェクトを形成し、 移動された1次画像オブジェクトに対し新しい複合オブ
    ジェクトを作成し、 新しいグループ化構造を作成することを含む、請求項2
    に記載の表示装置に入力されたソース電子画像を意味の
    ある画像オブジェクトに編成するための方法。
  5. 【請求項5】 2つ以上の1次画像オブジェクトをマー
    ジすることによって新しい1次画像オブジェクトを確立
    することは、 少なくとも1つの1次画像オブジェクトを選択し、 選択された1次画像オブジェクトの結合の境界ボックス
    を決定し、 前記境界ボックスのサイズに対応する新しい空白のビッ
    トマップを作成し、 前景マテリアルを選択されたすべての1次画像オブジェ
    クトから前記新しいビットマップに複写し、 前記新しいビットマップの新しい1次画像オブジェクト
    を作成し、 選択された1次画像オブジェクトを1次オブジェクトリ
    ストから除去し、 新しい1次オブジェクトを前記1次オブジェクトリスト
    に追加することを含む、請求項2に記載の表示装置に入
    力されたソース電子画像を意味のある画像オブジェクト
    に編成するための方法。
  6. 【請求項6】 新しい複合オブジェクトの作成は、 選択されたすべての1次オブジェクトによって支援され
    る複合オブジェクトを位置付けて完全に支援された複合
    オブジェクトを形成し、 前記選択された1次オブジェクトからの支援リンクを前
    記完全に支援された複合オブジェクトのそれぞれに対す
    る新しい1次オブジェクトへの支援リンクと置き換え、 選択された1次オブジェクトの部分集合によって支援さ
    れる複合オブジェクトを位置付けて、部分的に支援され
    た複合画像を形成し、 部分的に支援された複合画像のそれぞれに対する1次オ
    ブジェクトへのすべての支援リンクを除去することを含
    む、請求項2に記載の表示装置に入力されたソース電子
    画像を意味のある画像オブジェクトに編成するための方
    法。
  7. 【請求項7】 画像領域をテキスト及び線画、連続階調
    /写真用、及び中間調小領域にセグメント化し、 前記連続階調及び前記中間調領域に対し個々のビットマ
    ップ・オブジェクトを作成し、 前記個々のビットマップ・オブジェクトをソース画像か
    ら削除し、 処理済みソース画像を複数の基本的ビットマップ・オブ
    ジェクトに分解して1次オブジェクトを形成し、 格子グループ化構造内で、ビットマップ・オブジェクト
    の集合を複合画像又はグループに分類分けすることをさ
    らに含む、請求項2に記載の表示装置に入力されたソー
    ス電子画像を意味のある画像オブジェクトに編成するた
    めの方法。
  8. 【請求項8】 コンピュータ読取り可能プログラムコー
    ドが組み込まれたコンピュータ使用可能媒体を含む製品
    であって、前記プログラムコードが前記コンピュータに
    よって実行されると、前記コンピュータにディスプレイ
    上に入力された電子画像を編集し、操作するための方法
    ステップを実行させるとともに、前記方法ステップは、 電子画像を1次画像オブジェクトに分解し、 前記1次画像オブジェクトがそれぞれ1つ以上のグルー
    プに所属し各グループが1つ以上の1次画像オブジェク
    トを含むように、前記1次画像オブジェクトを無制限の
    1次画像オブジェクトのグループに編成し、 新しい1次画像オブジェクトを作成し、 1つ以上の1次画像オブジェクトのユーザ操作に応じて
    前記1次画像オブジェクトのグループのすべて又は一部
    を1次画像オブジェクトの1つ以上のグループに再編成
    すること、 を含む、コンピュータ読取り可能プログラムコードが組
    み込まれたコンピュータ使用可能媒体を含む製品。
JP2003076852A 2002-03-22 2003-03-20 電子画像を作成し操作するための図形入力及び表示システム、表示装置に入力されたソース電子画像を意味のある画像オブジェクトに編成するための方法、及びコンピュータ読取り可能プログラムコードが組み込まれたコンピュータ使用可能媒体を含む製品 Pending JP2003298837A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/104,805 US6903751B2 (en) 2002-03-22 2002-03-22 System and method for editing electronic images
US104805 2002-03-22

Publications (1)

Publication Number Publication Date
JP2003298837A true JP2003298837A (ja) 2003-10-17

Family

ID=28040696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003076852A Pending JP2003298837A (ja) 2002-03-22 2003-03-20 電子画像を作成し操作するための図形入力及び表示システム、表示装置に入力されたソース電子画像を意味のある画像オブジェクトに編成するための方法、及びコンピュータ読取り可能プログラムコードが組み込まれたコンピュータ使用可能媒体を含む製品

Country Status (4)

Country Link
US (1) US6903751B2 (ja)
EP (1) EP1361544B1 (ja)
JP (1) JP2003298837A (ja)
DE (1) DE60334420D1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009003798A (ja) * 2007-06-22 2009-01-08 Canon Inc 情報処理装置及び情報処理方法
JP2011514545A (ja) * 2008-02-05 2011-05-06 イーストマン コダック カンパニー フレキソ印刷版の画像化における無駄の削減
US8698747B1 (en) 2009-10-12 2014-04-15 Mattel, Inc. Hand-activated controller

Families Citing this family (80)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7251775B1 (en) * 2000-06-30 2007-07-31 Nokia Corporation System and method for visual history presentation and management
US7246321B2 (en) * 2001-07-13 2007-07-17 Anoto Ab Editing data
US7299424B2 (en) * 2002-05-14 2007-11-20 Microsoft Corporation Lasso select
US20030214553A1 (en) * 2002-05-14 2003-11-20 Microsoft Corporation Ink regions in an overlay control
US7158675B2 (en) * 2002-05-14 2007-01-02 Microsoft Corporation Interfacing with ink
US7925987B2 (en) * 2002-05-14 2011-04-12 Microsoft Corporation Entry and editing of electronic ink
US8166388B2 (en) 2002-05-14 2012-04-24 Microsoft Corporation Overlaying electronic ink
US20040054509A1 (en) * 2002-09-12 2004-03-18 Breit Stephen R. System and method for preparing a solid model for meshing
US20040066538A1 (en) * 2002-10-04 2004-04-08 Rozzi William A. Conversion of halftone bitmaps to continuous tone representations
US7310769B1 (en) 2003-03-12 2007-12-18 Adobe Systems Incorporated Text encoding using dummy font
US7505048B2 (en) * 2003-04-25 2009-03-17 Microsoft Corporation Estimation of overlap of polygons
US20050068312A1 (en) * 2003-09-26 2005-03-31 Denny Jaeger Method for programming a graphic control device with numeric and textual characters
US7154511B2 (en) * 2003-10-24 2006-12-26 Microsoft Corporation Fast rendering of ink
US8074184B2 (en) * 2003-11-07 2011-12-06 Mocrosoft Corporation Modifying electronic documents with recognized content or other associated data
US7421116B2 (en) * 2004-03-25 2008-09-02 Hewlett-Packard Development Company, L.P. Image processing methods and systems
JP2006018522A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像編集システム及び方法並びにプログラム
US9799148B2 (en) * 2005-04-04 2017-10-24 Psi Systems, Inc. Systems and methods for establishing the colors of a customized stamp
US8514447B2 (en) * 2005-06-07 2013-08-20 Canon Kabushiki Kaisha Image processing using first and second color matching
US7778492B2 (en) 2006-04-04 2010-08-17 Oldford Group Limited System and method for scaling digital images
US7876335B1 (en) * 2006-06-02 2011-01-25 Adobe Systems Incorporated Methods and apparatus for redacting content in a document
US8072472B2 (en) * 2006-06-26 2011-12-06 Agfa Healthcare Inc. System and method for scaling overlay images
US9805010B2 (en) 2006-06-28 2017-10-31 Adobe Systems Incorporated Methods and apparatus for redacting related content in a document
JP4743154B2 (ja) * 2006-07-05 2011-08-10 セイコーエプソン株式会社 文書編集装置、プログラムおよび記憶媒体
KR100931994B1 (ko) * 2006-07-12 2009-12-15 삼성전자주식회사 이미지처리장치 및 이미지처리방법
US8612847B2 (en) * 2006-10-03 2013-12-17 Adobe Systems Incorporated Embedding rendering interface
CN101192107A (zh) * 2006-11-28 2008-06-04 国际商业机器公司 用于输入并显示字符串的方法和设备
US8014607B2 (en) * 2007-03-23 2011-09-06 Palo Alto Research Center Incorporated Method and apparatus for creating and editing node-link diagrams in pen computing systems
US7907141B2 (en) * 2007-03-23 2011-03-15 Palo Alto Research Center Incorporated Methods and processes for recognition of electronic ink strokes
US7725493B2 (en) * 2007-03-23 2010-05-25 Palo Alto Research Center Incorporated Optimization method and process using tree searching operation and non-overlapping support constraint requirements
US8407589B2 (en) * 2007-04-20 2013-03-26 Microsoft Corporation Grouping writing regions of digital ink
US20090077473A1 (en) * 2007-09-13 2009-03-19 James Williams System and method of managing workflow of an authoring assignment
US8170380B1 (en) * 2008-05-30 2012-05-01 Adobe Systems Incorporated Method and apparatus for importing, exporting and determining an initial state for files having multiple layers
US20100229129A1 (en) * 2009-03-04 2010-09-09 Microsoft Corporation Creating organizational containers on a graphical user interface
US8452086B2 (en) * 2009-07-10 2013-05-28 Palo Alto Research Center Incorporated System and user interface for machine-assisted human labeling of pixels in an image
US8649600B2 (en) 2009-07-10 2014-02-11 Palo Alto Research Center Incorporated System and method for segmenting text lines in documents
US8442319B2 (en) * 2009-07-10 2013-05-14 Palo Alto Research Center Incorporated System and method for classifying connected groups of foreground pixels in scanned document images according to the type of marking
US9535599B2 (en) * 2009-08-18 2017-01-03 Adobe Systems Incorporated Methods and apparatus for image editing using multitouch gestures
EP2480957B1 (en) 2009-09-22 2017-08-09 Apple Inc. Device, method, and graphical user interface for manipulating user interface objects
US9310907B2 (en) 2009-09-25 2016-04-12 Apple Inc. Device, method, and graphical user interface for manipulating user interface objects
US8799826B2 (en) 2009-09-25 2014-08-05 Apple Inc. Device, method, and graphical user interface for moving a calendar entry in a calendar application
US8832585B2 (en) 2009-09-25 2014-09-09 Apple Inc. Device, method, and graphical user interface for manipulating workspace views
US8766928B2 (en) 2009-09-25 2014-07-01 Apple Inc. Device, method, and graphical user interface for manipulating user interface objects
US8539385B2 (en) 2010-01-26 2013-09-17 Apple Inc. Device, method, and graphical user interface for precise positioning of objects
US8539386B2 (en) * 2010-01-26 2013-09-17 Apple Inc. Device, method, and graphical user interface for selecting and moving objects
US8677268B2 (en) * 2010-01-26 2014-03-18 Apple Inc. Device, method, and graphical user interface for resizing objects
US20130111380A1 (en) * 2010-04-02 2013-05-02 Symantec Corporation Digital whiteboard implementation
US9081494B2 (en) 2010-07-30 2015-07-14 Apple Inc. Device, method, and graphical user interface for copying formatting attributes
US8972879B2 (en) 2010-07-30 2015-03-03 Apple Inc. Device, method, and graphical user interface for reordering the front-to-back positions of objects
US9098182B2 (en) 2010-07-30 2015-08-04 Apple Inc. Device, method, and graphical user interface for copying user interface objects between content regions
KR20120013807A (ko) * 2010-08-06 2012-02-15 엘지전자 주식회사 조명 및 하이라이트 기능을 제공하는 이동 단말기 및 그 제어 방법
US20130181995A1 (en) * 2010-09-21 2013-07-18 Hewlett-Packard Developement Company, L.P. Handwritten character font library
US9323807B2 (en) * 2010-11-03 2016-04-26 Sap Se Graphical manipulation of data objects
US8699078B2 (en) * 2010-11-18 2014-04-15 Fuji Xerox Co., Ltd. Image processing apparatus, image processing method, and computer readable medium storing program
US20120206471A1 (en) * 2011-02-11 2012-08-16 Apple Inc. Systems, methods, and computer-readable media for managing layers of graphical object data
US8548280B2 (en) * 2011-02-14 2013-10-01 Hewlett-Packard Development Company, L.P. Systems and methods for replacing non-image text
US9665941B2 (en) * 2012-10-30 2017-05-30 Hewlett-Packard Development Company, L.P. Object segmentation
JP5690317B2 (ja) * 2012-11-01 2015-03-25 シャープ株式会社 情報表示装置及び情報表示方法
US8948509B2 (en) * 2012-11-15 2015-02-03 Adobe Systems Incorported Blending with multiple blend modes for image manipulation
JP6201488B2 (ja) * 2013-07-29 2017-09-27 富士通株式会社 選択文字特定プログラム、選択文字特定方法、及び、選択文字特定装置
US9105094B2 (en) * 2013-10-01 2015-08-11 Adobe Systems Incorporated Image layers navigation
US10176611B2 (en) * 2013-10-21 2019-01-08 Cellco Partnership Layer-based image updates
US10296570B2 (en) 2013-10-25 2019-05-21 Palo Alto Research Center Incorporated Reflow narrative text objects in a document having text objects and graphical objects, wherein text object are classified as either narrative text object or annotative text object based on the distance from a left edge of a canvas of display
US9659279B2 (en) 2013-10-25 2017-05-23 Palo Alto Research Center Incorporated Method and system for enhanced inferred mode user interface operations
US9710879B2 (en) * 2014-09-08 2017-07-18 Ross Video Limited Methods and systems for computing an alpha channel value
US9864479B2 (en) 2014-12-19 2018-01-09 Xerox Corporation System and method for managing and reviewing document integration and updates
US9990561B2 (en) * 2015-11-23 2018-06-05 Lexmark International, Inc. Identifying consumer products in images
US10136103B2 (en) 2015-11-23 2018-11-20 Lexmark International, Inc. Identifying consumer products in images
US10067731B2 (en) 2016-01-05 2018-09-04 Quirklogic, Inc. Method and system for representing a shared digital virtual “absolute” canvas
US10129335B2 (en) 2016-01-05 2018-11-13 Quirklogic, Inc. Method and system for dynamic group creation in a collaboration framework
US10324618B1 (en) * 2016-01-05 2019-06-18 Quirklogic, Inc. System and method for formatting and manipulating digital ink
US10755029B1 (en) 2016-01-05 2020-08-25 Quirklogic, Inc. Evaluating and formatting handwritten input in a cell of a virtual canvas
DE102016201389A1 (de) * 2016-01-29 2017-08-03 Robert Bosch Gmbh Verfahren zu einer Erkennung von Objekten, insbesondere von dreidimensionalen Objekten
WO2018085929A1 (en) * 2016-11-09 2018-05-17 Quirklogic, Inc. Method and system for erasing an enclosed area on an interactive display
US10895954B2 (en) * 2017-06-02 2021-01-19 Apple Inc. Providing a graphical canvas for handwritten input
US11069044B1 (en) * 2020-03-18 2021-07-20 Adobe Inc. Eliminating image artifacts using image-layer snapshots
US11587346B2 (en) 2020-12-10 2023-02-21 Microsoft Technology Licensing, Llc Detecting ink gestures based on spatial and image data processing
US11531454B2 (en) * 2020-12-10 2022-12-20 Microsoft Technology Licensing, Llc Selecting content in ink documents using a hierarchical data structure
CN112734882B (zh) * 2020-12-30 2024-03-05 维沃移动通信有限公司 图像处理方法、装置
US11631206B2 (en) * 2021-06-10 2023-04-18 Adobe Inc. Glyph selection tool for digital text content
US20230315271A1 (en) * 2022-03-18 2023-10-05 Sony Group Corporation Collaborative whiteboard for meetings

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3729023C2 (de) 1986-08-29 1995-03-16 Canon Kk Bildbearbeitungsgerät
CA2027253C (en) 1989-12-29 1997-12-16 Steven C. Bagley Editing text in an image
FR2681967B1 (fr) * 1991-10-01 1994-11-25 Electronics For Imaging Inc Procede et appareil pour modifier les couleurs d'une image a l'aide d'un ordinateur.
US5345313A (en) * 1992-02-25 1994-09-06 Imageware Software, Inc Image editing system for taking a background and inserting part of an image therein
US5926186A (en) 1992-09-10 1999-07-20 Fujitsu Limited Graphic editing apparatus and method
US7203903B1 (en) * 1993-05-20 2007-04-10 Microsoft Corporation System and methods for spacing, storing and recognizing electronic representations of handwriting, printing and drawings
US5553224A (en) * 1993-08-04 1996-09-03 Xerox Corporation Method for dynamically maintaining multiple structural interpretations in graphics system
US7859551B2 (en) * 1993-10-15 2010-12-28 Bulman Richard L Object customization and presentation system
US5664180A (en) * 1995-03-20 1997-09-02 Framework Technologies Corporation Design tool for complex objects which links object structures of a design object in multiple design domains
JP3378900B2 (ja) 1996-06-25 2003-02-17 富士通株式会社 オブジェクト編集方法,オブジェクト編集システム及び記録媒体
US5784061A (en) 1996-06-26 1998-07-21 Xerox Corporation Method and apparatus for collapsing and expanding selected regions on a work space of a computer controlled display system
US5861886A (en) * 1996-06-26 1999-01-19 Xerox Corporation Method and apparatus for grouping graphic objects on a computer based system having a graphical user interface
US5974198A (en) 1996-08-26 1999-10-26 Adobe Systems Incorporated Adjustment layers for composited image manipulation
US5912668A (en) 1997-05-30 1999-06-15 Sony Corporation Controlling a screen display of a group of images represented by a graphical object
US5889523A (en) 1997-11-25 1999-03-30 Fuji Xerox Co., Ltd. Method and apparatus for dynamically grouping a plurality of graphic objects
US6028583A (en) 1998-01-16 2000-02-22 Adobe Systems, Inc. Compound layers for composited image manipulation
US6459442B1 (en) * 1999-09-10 2002-10-01 Xerox Corporation System for applying application behaviors to freeform data
US20020175948A1 (en) * 2001-05-23 2002-11-28 Nielsen Eric W. Graphical user interface method and apparatus for interaction with finite element analysis applications
US6704467B2 (en) * 2000-12-21 2004-03-09 Canon Kabushiki Kaisha Image editing with block selection
US6816612B2 (en) * 2001-06-29 2004-11-09 Mustek Systems Inc. Multi-mode image processing method and a system thereof
US7194140B2 (en) * 2001-11-05 2007-03-20 Canon Kabushiki Kaisha Image processing apparatus and method which compresses image data of each region using a selected encoding method

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009003798A (ja) * 2007-06-22 2009-01-08 Canon Inc 情報処理装置及び情報処理方法
JP2011514545A (ja) * 2008-02-05 2011-05-06 イーストマン コダック カンパニー フレキソ印刷版の画像化における無駄の削減
US8698747B1 (en) 2009-10-12 2014-04-15 Mattel, Inc. Hand-activated controller

Also Published As

Publication number Publication date
US20030179214A1 (en) 2003-09-25
EP1361544A2 (en) 2003-11-12
US6903751B2 (en) 2005-06-07
DE60334420D1 (de) 2010-11-18
EP1361544B1 (en) 2010-10-06
EP1361544A3 (en) 2004-06-23

Similar Documents

Publication Publication Date Title
JP2003298837A (ja) 電子画像を作成し操作するための図形入力及び表示システム、表示装置に入力されたソース電子画像を意味のある画像オブジェクトに編成するための方法、及びコンピュータ読取り可能プログラムコードが組み込まれたコンピュータ使用可能媒体を含む製品
Saund et al. Perceptually-supported image editing of text and graphics
EP0434930B1 (en) Editing text in an image
JP4637455B2 (ja) ユーザインタフェースの利用方法並びにコンピュータで使用可能な媒体を含む製品
US6768816B2 (en) Method and system for interactive ground-truthing of document images
JP4181892B2 (ja) 画像処理方法
JP2816241B2 (ja) 画像情報検索装置
US7093202B2 (en) Method and system for interpreting imprecise object selection paths
JP4533273B2 (ja) 画像処理装置及び画像処理方法、プログラム
JPH06508461A (ja) 画像を自動併合するための装置及び方法
EP0635808A2 (en) Method and apparatus for operating on the model data structure on an image to produce human perceptible output in the context of the image
US20060143154A1 (en) Document scanner
Deng et al. Binarizationshop: a user-assisted software suite for converting old documents to black-and-white
Coustaty et al. Towards historical document indexing: extraction of drop cap letters
Fernandes et al. Kannada handwritten script recognition using machine learning techniques
CN115812221A (zh) 图像生成及着色方法及装置
US11914951B2 (en) Semantically-guided template generation from image content
Baloun et al. ChronSeg: Novel Dataset for Segmentation of Handwritten Historical Chronicles.
JP5824309B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP4574347B2 (ja) 画像処理装置、方法及びプログラム
Bell et al. Approaches to handwritten conductor annotation extraction in musical scores
Simske et al. User-directed analysis of scanned images
US20230419575A1 (en) Information processing apparatus, control method therefor, and storage medium
JP2016197362A (ja) 範囲指定プログラム、範囲指定方法および範囲指定装置
JPH10222688A (ja) 画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060320

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080318

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080924

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081224

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090224