JP2009301536A - ファイルを表示する方法、装置およびプログラム - Google Patents

ファイルを表示する方法、装置およびプログラム Download PDF

Info

Publication number
JP2009301536A
JP2009301536A JP2009065784A JP2009065784A JP2009301536A JP 2009301536 A JP2009301536 A JP 2009301536A JP 2009065784 A JP2009065784 A JP 2009065784A JP 2009065784 A JP2009065784 A JP 2009065784A JP 2009301536 A JP2009301536 A JP 2009301536A
Authority
JP
Japan
Prior art keywords
file
files
adjacent portion
adjacent
stack
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009065784A
Other languages
English (en)
Other versions
JP5444776B2 (ja
Inventor
Andreas Girgensohn
ガーゲンソン アンドレアス
Frank M Shipman
エム. シップマン フランク
Lynn D Wilcox
ディー. ウィルコックス リン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Publication of JP2009301536A publication Critical patent/JP2009301536A/ja
Application granted granted Critical
Publication of JP5444776B2 publication Critical patent/JP5444776B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/44Browsing; Visualisation therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】本発明は、より柔軟かつユーザによる操作が可能となる図表ベースでファイルを配置する表示システムおよび方法を提供することを目的とする。
【解決手段】本発明のファイルの表示方法は、図表ベースのワークスペース内で関連するファイルのサムネイル画像をグラフとして結合した状態から開始し、ユーザが、異なるカテゴリに対応するファイルのスタックを作成したことに応じて隣接部を形成し、これをワークスペース上に表示する。隣接部が形成された後は、新たな画像の追加があった場合、隣接部に含まれるファイルが隣接部に属する条件を満たさなくなった場合でも隣接部から除外したり、新たに条件を満たすようになったファイルを隣接部に新たに加えないようにしたりすることもできる。これにより、ワークスペース上に図表化された視認性に優れるファイル表示を行うことが可能となる。
【選択図】図4

Description

本発明は、対話型で適応性のある、図表配置(graph−based layout)により複数のファイルを表示するためのシステムおよび方法に関し、より詳細には類似性に基づく積み重ねとグルーピングを用い対話的で視覚的なワークスペース内にファイルを表示するためのシステムおよび方法に関する。
写真間の関係に基づいて写真をグルーピングして整理することは、写真に関する基本的な操作である。大量の画像を扱う作業では、オンラインレポジトリからの写真の選択、個人のフォトコレクションおよび共有されたフォトコレクションの整理、そしてデジタルライブラリにメタデータを付加したりイメージを関連付けたりといったことが、多様な作業の一部となる。これらの作業で用いるインターフェースの多くは、グーグル(登録商標)、Flickr(登録商標)での検索結果およびPicasa(登録商標)やマイクロソフト(登録商標)ウィンドウズ(登録商標)エクスプローラの閲覧インターフェースに見られるような、リストやサムネイルを並置するものである。画像に加え、他のドキュメントについても、ユーザが互いを識別できるようなサムネイル表示を用いることで同様の手法での整理を行うことができる。
しかし、グリッドベースの表示では、ファイル間の関係を適切に描くにはあまりに制約的であり素材の表示に限界がある。加えて、ファイルをノードとし、それらの関係を描くためにノードを結合するような表示においては、他のクラスのファイルを整理するために、あるノードをある位置に固定したい場合が頻繁に生ずる。固定されていないノードが、一つ以上の固定されたノードに対して短い理想距離(desired distance)を持つ場合もある。もしそれらの固定されたノードが離れた位置にある場合、固定していない写真(ファイル)はこれらの固定されたノード間を結ぶ直線に沿って積み上がり、両ノードに対する類似性を描くうえで、両ノードに対する実際の類似性を不正確に描くことになる。
また、ファイルの整理や可視化を行うための多くのシステムでは、ユーザが整理のための追加ルールを手動で導入することや、既存のルールを置き換えることは許していない。このため、ユーザはソフトウェアベースのシステムにより設定された整理手順に行き詰ってしまうことも多くある。
特開2000−099226号公報
コホーネン、テウヴォ、「自己組織化マップ」、第3版、スプリンガー−ヴァーラグ社刊、2001年 チャンら、「コレクションの理解」,デジタルライブラリに関するACM/IEEE共同会議予稿集(Proceedings of the ACM/IEEE Joint Conference on Digital Libraries)、頁334〜342
本発明は、柔軟かつユーザによる操作が可能となるグラフベース(図表配置)でファイルを配置する表示システムおよび方法を提供することを目的とする。
本発明の態様の一つは、上記目的を達成するために、図表により視覚化されるワークスペース中で複数のファイルを表示する方法であって、コンピュータにより再生される複数のファイルを取得し、前記ワークスペース中に前記複数のファイルを表す代替画像の各々を、前記複数のファイルの間の類似性に基づいて定められた距離に応じて図表的に配置し、前記複数のファイルの少なくとも一部のファイルを含む少なくとも一つのスタックを決定し、前記ワークスペース中で前記少なくとも一つのスタックに近接するファイルを判別し、近接すると判断された前記ファイルを用いて近接部を形成することを特徴とする。
本発明の態様の他の一つは、上記目的を達成するために、図表により視覚化されるワークスペース中で複数のファイルを表示装置上に表示する装置であって、コンピュータにより再生される複数のファイルを取得する取得手段と、前記ワークスペース中に前記複数のファイルを表す代替画像の各々を、前記複数のファイルの間の類似性に基づいて定められた距離に応じて図表的に配置する配置手段と、前記複数のファイルの少なくとも一部のファイルを含む少なくとも一つのスタックを決定するスタック形成手段と、前記ワークスペース中で前記少なくとも一つのスタックに近接する前記ファイルを判別し、近接すると判断された前記ファイルを用いて近接部を形成する隣接部形成手段と、を備えることを特徴とする。
ワークスペース上に、図表的に配置された視認性に優れるファイルの表示を行うことが可能となる。
ワークスペース中でサムネイルにより表される複数のファイルの初期レイアウトを示すものであり、距離計測に基づいてサムネイル画像を配置した、本発明の一形態を表すものである。 選択された一つのサムネイル画像に応じて、どのように類似のサムネイル画像がハイライトされ、接続されるかを示す、本発明の一形態を表すものである。 どのように類似するファイルが検索され、ワークスペース内に表示されるかを示す、本発明の一形態を表すものである。 3つの固定されたサムネイル画像あるいはサムネイル画像のスタックがより大きなサムネイル画像によって表される様子、そして、隣接部に基づいたスタック中のサムネイル画像を取り囲む色付けされたヘイローにより隣接部が表される様子を示す、本発明の一形態を表すものである。 (A)から(D)にしたがって、赤いヘイローで示される新しい隣接部が作成され、残りのワークスペースとは独立して隣接部が動く様子を示す、本発明の一形態を表すものである。 隣接部と他の隣接部に属する写真との関係を色付けしたヘイローおよび色付けした接続線で表現した例を示す、本発明の一形態を表すものである。 文章ドキュメントを適用した様子を示す、本発明の一形態を表すものである。 サムネイル画像のスタックに対応する楕円形状のポップアップウィンドウと、スタック中の各サムネイル画像を楕円形状として表示した例を示す、本発明の一形態を表すものである。 本発明のシステムを実現するコンピュータプラットフォームの典型例を表す、本発明の一形態を表すものである。
以下の詳細な説明において、対応する図面中の符号は、同じ機能要素については同様の番号を付してある。これらの図面は例示であって、その手法を限定するものではなく、個々の実施形態および適用例は今回の発明の原理を示すためのものである。これらの適用例は当業者が実施可能な程度に十分な詳細が記載されており、他の適用例への適用、構成の変更や各構成要素の変更および/または置き換えが、本発明の範囲および思想から逸脱することなく適用できることは理解されるだろう。従って、以下の詳細な説明は限定的に解釈されるものではない。加えて、記述される多様な実施形態は、一般用のコンピュータ上で動作するソフトウェアの形態、専用のハードウェアから成る形態、あるいはソフトウェアとハードウェアとの組み合わせにより実現されるものである。
本発明は、反復過程(iterative process)により支援されたファイルの管理のための適応型の対話的な視覚的ワークスペースのデザインに関するものである。一つの実施形態として、例えば写真のグループのような関連するファイルのサムネイル画像を、初期配置として所定の写真の類似度計測の分析結果に基づいて、ディスプレイに表示されたワークスペース中において互いに近くに配置する。ユーザは次にユーザインターフェースを介して関連する写真をスタックしてグループ化する指示を行う。システムは、ユーザによる検討を促すために、スタックに含まれる写真との所定の関連性に基づいて追加の関連性のある写真を記憶領域から抽出して、ワークスペース中のスタックの周囲に配置して表示する。ユーザは関連性のある写真を選ぶうえで、視覚的、時間的および地理的な属性に基づいて選択基準を設定してもよい。これらの対話的な過程を経て、ユーザはある特定の表示に適した写真のコレクションを見出すことができるようにもなる。この過程は、後の検索の支援となる写真の関連付けにも有効である。
また、異なる写真属性に注目するときに、ワークスペース上にある写真を他の写真に対してどの位近付けるかを決定するときに、グラフベースレイアウト手法では、ワークスペース中に写真間の理想距離(desired distance)と実際の距離との差が最小となるように写真を配置する。ノードがワークスペース中で他の箇所にドラッグされるときには、関連するノードは類似性に基づいてドラッグされたノードに付いて行く。ノードは特定の箇所に固定することもでき、固定されていないノードだけがグラフレイアウトのアルゴリズムにしたがって動くことができる。グラフレイアウト法は、審美的基準に沿ってグラフをレイアウトするときにどのようなノード配置が審美的基準を最適化するかを探索する公知の手法であり、大まかに2種類に分類され、グラフ理論をベースにしたアルゴリズム的アプローチ、物理モデルをベースとしたモデル的アプローチがある。さらにこれを改良したものがどのような理論、物理モデル、基準を適用するかで多様にあるが、本発明にはどのモデルを適用することもできる。
本発明の一つのポイントは、ユーザが他の写真や既存のスタック(積み重ね)にユーザインターフェースを用いて写真をドラッグ等することによって、写真のスタックを作る点である。写真のスタックは、ネットワーク中の他のノードに対して理想距離に応じた位置で図表中にグラフのノードとして表示される。なお、スタックが実際に積み重なっているように表示されている必要はなく、一群として識別できるように表示されればよい。例えばスタックはスタックから選ばれた写真、あるいはスタックから選ばれた写真のコラージュで視覚化される。スタックはヘイロー(halo 光輪)によって視覚化された隣接部(neighborhood)を有することもでき、隣接部にはスタックの写真に関連する写真が含まれる。より適切に分離させるために、スタックの隣接部の写真はワークスペースの他の部分とは切り離されており(例えば隣接部外のノードとの相互作用が小さいあるいは働かないものとしてスタック、隣接部および他のノードの理想距離を計算する)、固定された写真とその隣接部がワークスペースの他の部分に影響を与えないで独立に移動するように構成される。
写真に加えて、この手法は他の種類のファイル、ビデオ、テキストベースのドキュメントなどにも適用することができる。テキスト類似性のような他の種類の類似性をテキストベースのファイルに適用することもできる。サムネイル画像はファイルの種別に関わらず、ワークスペース中のファイルを表す。
また、ワークスペース内のファイルの分離は、ファイル間の距離計算を用いて決定される。用途に適した距離計算手法を用いることで、システムはファイルを直感的に理解しやすくグルーピングする。ユーザはシステムの操作を通じてこれに関与する。このためユーザは意味あるやり方でファイルを整理することができる。システムによるファイルの関係分析結果が不十分なときには、ユーザは隣接部中のファイルの関係を手動で調整するための制御をすることもできる。
本発明の一例では、写真のような複数のファイルの配置および整理に関してユーザを支援する2次元のワークスペースを提供する。このワークスペースはグリッドに縛られることなく2次元空間に関連した写真を互いに近接配置することができる。ユーザは、関連する写真を見付けるためのいくつかの類似性指標を選択できるようにしてもよい。ユーザはワークスペース中の特定の位置に写真を固定すること、スタックに写真を配置すること、写真およびスタックをスペース内で移動すること、ができる。ユーザがそれぞれの写真やスタックを移動するときに、システムは類似性に基づいて固定されていない写真を移動させる。スタックの関係が相対的曖昧さを持って視覚化されており、固定されていない写真の移動ができるので、ユーザは別の類似性クライテリアに基づくシステムの支援を利用しながら、写真の整理をすることができる。ユーザは選択した写真グループに類似した追加写真の検索をすることもできる。
他の態様では、初期のレイアウトを、時刻、地理上の位置(GPSの位置)、タグやメタデータ、視覚的な類似性といった多様な写真に関する特徴に基づく、写真間の類似指標に基づいて配置する。一般に、類似した写真は近接配置し、異なる写真は互いに離して配置するように初期のレイアウトは作成される。ユーザは類似あるいは関連した写真のグループを作成し、それらをワークスペースに配置する。スタックが形成されると、システムはスタックに類似する写真を識別し、そのグループへの追加候補としてそのスタックの隣接部内や、その近辺の追加候補であることが認識される領域に配置して提示をする。一つ以上のスタックに近接している写真は最も近接しているスタックの隣接部に配置される。システムは、隣接部のメンバーになる候補について、現在のスタックの隣接部への重複する可能性の程度に応じて他のスタックの隣接部を着色することで、その重複を視覚化する。このフィードバックに基づいて、写真の現在のスタックへの移動および追加、新規スタックの作成、スタックの隣接部からの写真の追加あるいは削除、を指示することで、ユーザはワークスペースを再配置させることができる。
スタックの隣接部は、隣接部を形成するスタックと同様に、黙示的な写真のクエリとして作用する。スタックに対し写真を追加あるいは削除することで、黙示的なクエリは変更される。異なる距離指標に変更するときは、スタックの隣接部はその距離指標によって決定される。スタックの黙示的なクエリの中に異なる距離指標を組み合わせるために、隣接部は部分的あるいは完全に写真の追加や除外がされないようにすることもできる。写真の追加がされなくなると、その隣接部は異なる複数の距離指標の潜在的な隣接部の積集合(共通部分)を形成する。逆に、隣接部から写真の除外がされないようにすると、隣接部は潜在的な隣接部の和集合を形成する。
これ以降の説明は、特に写真の使用に焦点を当てている。しかし、このアプローチはビデオのような他のマルチメディアドキュメント、あるいは、テキストファイルなどのいかなる種類のドキュメントに対しても適用することができる。いずれのファイルも、ビデオのキーフレームやページの印刷イメージのような形式の、視覚的表示をもつことができる。それらの類似性は、それぞれ種類に適した距離指標を元に表現することができる。
ワークスペース内で意味あるグループにユーザが写真を整理するのを支援するために、写真および写真のストック間の類似性に基づいた距離を表示する略完全に接続されたグラフがワークスペース内に保持される。スタックがない場合には、そのグラフは例えば全てのサムネイル間の距離指標を計算して、完全に接続される。選択された距離閾値以下の距離指標を有する写真だけが、写真間を結ぶ線で繋げられて表示される。それぞれのスタックの隣接部では、その隣接部内では完全に接続されているが他とは接続されない、独立したグラフを形成する。
グラフレイアウトモデルを使用することにはいくつかの理由がある。第1に、距離が必要なだけなので、非ユークリッド距離を使うことができる。第2に、自己組織化マップ(例えば、非特許文献1などを参照)とは異なり、ノードはどの位置においてもよく、グリッドや同様のセル構造に当てはめる必要もない。第3に、グラフレイアウトはユーザによる配置も考慮にいれることができる。それは多次元スケーリングのようなアプローチとの差異である。加えて、反復過程での移動方向をガイドする偏導関数とともに距離指標を用いることで、満足が得られる状態に早くたどり着ける。
ノード間の最適な距離を決定するために、差分距離指標を用いることができる。単純な距離指標としては、2つの写真を撮影した時間差がある。もし写真に位置情報が含まれているならば、位置間の地理的な距離を距離指標として利用することができる。例えば、写真、ビデオ、あるいはテキスト文章の作成した場所が近いかといった指標となる。例示としては、時間、地理コード、写真の視覚的な類似度といったものを含む多様な差分距離指標を利用できる。視覚的な類似度は、多様な手法で得ることができる。一つの例示としては、カラーヒストグラムあるいはカラー自己相関分布(color correlogram)を用いることができる。カラーヒストグラムは、画像中のカラー分布を表すもので、通常2次元あるいは3次元のカラー空間における所定の色範囲それぞれのピクセル数を計数することで得られる。カラー自己相関分布は、ピクセル間の距離の関数として、色のペアの空間的な相関を計算するものである。カラーヒストグラムとカラー自己相関分布に関する詳細は、周知であるので説明は省略する。
「基本操作」
ユーザは、写真を互いに写真の上にドラッグすることで写真をスタックする。それらのスタックは個別の写真のようにグラフレイアウト中のノードとして扱われる。写真のスタックは通常ユーザにより作成されるが、システムは既定の距離指標に基づいて自動的に写真をクラスタ化し、関係する写真を同じスタックに配置するオプションを提供してもよい。このようにすれば、ワークスペース中に多くのスタックが散らかることなく、より多くの写真をユーザは取り扱うことができる。
写真あるいは写真のスタックをドラッグした後、写真あるいは写真のスタックは新しい位置に固定される。このやり方で、ユーザは写真の整理のためにいくつかのスタックをワークスペースのエリアの異なる領域に固定することができる。固定された写真あるいはスタックはユーザの意思によるものなので、グラフレイアウト全体を見たときに固定されていない写真に対してその意図がわかりやすくなる。
固定されていないノードは、一より多くの固定されたノードに対して短い距離を有するかもしれない。もしそれらの固定されたノードどうしが離れていたら、固定されていない写真は二つの固定されたノード間を結ぶ直線に沿って積み上がってしまう。こうした問題に対して、我々は隣接部のコンセプトを導入することで、ノードに近接する固定されていないノードは一つの隣接部中に含まれるようにする。隣接部に属していない写真およびスタックに対して独立に隣接部は移動する。
全体グラフおよび隣接部のレイアウトは、写真の類似性に関するシステムの解析結果を視覚的に示す。隣接部の類似性を視覚化することで、ユーザが定義したカテゴリに関するシステムの解析結果が相対的あいまいさを持ってフィードバックされることとなる。
「グラフレイアウト」
理想距離(desired distance)に応じてノード間の距離を最適化した完全接続グラフのレイアウトの生成のためのアプローチにはいくつか異なる手法がある。例えば、理想距離と実際の距離との間の二乗差を最小とする標準的な最適化アルゴリズムを使うことができる。
最初の態様においては、グラフレイアウトに関して力学モデルの使用を選択した。その力はフックの法則に基づく、ばねでモデル化する。ばねは自然長lでばね定数kとする。ばねl、kで接続された距離dのノードにはk×(d−l)の力が作用する。なお、d<lのときはこれは反発力となる。我々のばねモデルは完全に接続されたばねモデルを仮定している(すなわち、全てのノード間にばねがある)。静止状態でのばね長がノード間の理想距離に対応する。上述のように、グラフをいくつかのサブグラフに分割し、各サブグラフ内だけで接続するようにしてもよい。
図1は、ワークスペース102中に、各写真がサムネイル画像104により表現された、写真セットの初期レイアウトが示されている。各ノード106は、個々のサムネイル画像104あるいは写真のスタック122(図3)である。一例としては、スプリングモデルは、スプリングシステムが最小のエネルギー状態となるようにノード106の初期レイアウト100を決定するのに使われる。こうしたレイアウト100は、短い理想距離を有する関連ノード108,110を、互いに近接して配置し、関係のないノード110,112は互いが離れるように配置する。接続線114は類似する写真間に描く。
初期レイアウト100を生成するために、サムネイル104はまずランダムな位置に配置され、最小エネルギー状態になるまで小さな距離の移動を繰り返す。局所最適を避けるために、スプリングモデルを異なったランダム状態から開始し、何回かの繰り返しの後最小エネルギーの状態となるように改善する。
その後ワークスペースに写真が追加された場合には、それらも同様にまずランダムな位置に配置される。そして、新たに追加された写真だけを、低いエネルギーとなるような位置に繰り返し移動させる。新しい写真が満足する位置に移動した後にだけ、全体のエネルギー状態を低くするように新旧の写真を繰り返し移動させる。この2段階アプローチにより、古い写真を以前の位置に近い場所に配置させ続けることが可能となるため、ユーザの混乱を抑えることができる。
「距離指標とばね長」
この実施例では、ばねの自然長は写真間の類似性指標に基づいて決定される。任意のばね長で完全に接続されたばねシステムは殆どの場合ノードの位置を過剰に抑圧する。ある程度低いエネルギーの状態が見出される一方で、いくつかのノードは直感的ではない位置に配置されており、この状態は多くのエネルギーをいまだ残している。我々は、ばね長が十分に一様な分布を有する場合にはこの状況が改善されることを見出した。図2は、初期レイアウト100の拡大図を示しており、一つのサムネイル104が選ばれると、サムネイル104の周囲で、類似する写真116が太い境界線118により強調表示される様子を示している。選択した写真と関係する写真との間には強調表示された接続線120もまた表示される。殆どの類似した写真116は近隣に配置され、そうでないものは遠くに配置されることがわかる。
距離の規格化はすべてのペア間の距離をソートし、各距離値のパーセントを決定することで実現される。そして、10%の理想距離にはばね長0.1を割り当て、80%の理想距離には0.8のばね長を割り当てる。この手法はノードが数千あった場合でも速く処理できる。他の計算方法としては、全てのペア間の距離の平均および標準偏差を代わりに計算し、それを正規分布のパラメータとして用いることもできる。正規分布からは、各距離値の累積確率を計算し、その確率をばね長として割り当てる。
ノード間の分離を好ましくするためには、最小ばね長lminを設定するのが望ましい。ばね長は次の式を用いて修正される。
l’ = lmin + l * (lmax − lmin)/lmax
ここで、lmaxは2つのノード間の最長ばね長で、通常、正規化された空間では1である。最小ばね長を指定する代わりに、定数mにより定義される各ノード間の反発力を加えることもできる。反発する距離dの2つのノードには定数mによりm/d2の力が作用する。このような反発力の既定はスタックにとって有益であり、スタックに接続されない写真がスタック付近から外に押し出されることになる。
「スタック」
ユーザはある個別の写真を、当初その一つの写真しか含まないスタックに変更することもできる。スタックはワークスペースに固定される。スタックを作成し、そのスタックに写真を追加することは、ユーザがそのワークスペースを整理する上での基本的な手段である。スタックの作成の指示に応じて、スタックに関する情報(例えば識別ID,属する写真ファイル識別ID、ワークスペース上の座標、利用する距離指標等)を設定して記憶する。図3は、3つの固定されたスタック122、124、126を含むワークスペースを示す。
グラフレイアウト中の新たな要素としてスタックを作成すると、構成する写真の置き換えおよび他の写真やスタックとの理想距離の決定をすることになる。より多くの写真がスタックに追加された場合、システムはそれらの距離も適合させる。本実施例では、スタックメンバーと他のグラフノード間でのペア間の平均距離を用いた。他の手法としては、クラスタリング法において周知の最大ペア間距離を用いることもできる。
図8に示すように、ユーザはスタック122に含まれるメンバーを展開ビュースタックウィンドウ128内に展開して調べることができる。このウィンドウ128には、1以上の楕円形状ウィンドウ128内に環状に配置されたスタック122内の写真のサムネイル104が表示される。環状配置により適合させるためと美観的な理由で、サムネイル104で与えられる写真の一部もまた楕円形状で表示させる。ユーザが楕円形状のサムネイル104、言い換えれば代替表示物にマウスのポインタを重ねることで、その代替表示物のより大きなサムネイルの詳細画像が表示される。ユーザは展開ビュースタックウィンドウ128の円の外にサムネイル104をドラッグして移動することで、スタック122からその写真を取り除くこともできる。写真スタック122、124、126と個々の写真とは、ワークスペース内でポップアップウィンドウによって閲覧できるようにしてもよく、スタック内にある全ての要素をユーザに対し次々と切り替え表示させるようにしてもよい(ポップアップウィンドウやスライドショーの技術は周知のため図示しない)。図4には、初期レイアウト100および全ワークスペース102の全景中に展開ビュースタックウィンドウ128を表示した例である。
「写真およびスタックのドラッグと固定(Pinning)」
ワークスペース102中のスタック122の位置は、このばねシステムがそれらを他の場所に動かしてしまえないように固定される。言い換えると、ばね力は固定されていないノード106全部を新しい場所に移動させ得る。マウスによるドラッグ動作毎に、ばねシステムが低エネルギー状態に戻るまで繰り返し他のノードの位置が調整される。ばねシステムにおけるばね力は偏微分を用いて計算することで、どのノード106をどの方向に動かせばこのシステムの全エネルギーがより低くなるかを容易に計算できる。この特徴のため、新しいレイアウト100は数分の1秒で数百のノードについて計算でき、こうしたレイアウト変更をユーザのマウス操作に応じてインタラクティブに計算することができる。
本発明の一つの側面として、ユーザがスタック122をある位置に固定するということは、ユーザがそれらの写真が現在の状態とどのように関連するかを特定しているということになる。このユーザによる操作は、ワークスペース102のレイアウト100における、システムが当初評価した写真の類似性以上に、大きな影響を与えるべきである。写真の類似性の点もある程度維持した上で、ユーザの操作を考慮するために、システムはユーザが定義したスタックのばね力を元のばね力よりも増加させる。我々の実験では、スタックのばね力を当初より15%強化することでよい結果が得られ、この因子を調整するためのスライダ等の調整入力部を設けることもできる。ユーザが固定をし、あるいは固定を解除したとき、他のノードは、ばね力と以下で述べる隣接部の調整により、新しい位置に移動する。この新しい位置への移動は、ユーザがどこにノードが移動したかを認識しやすくなるようにアニメーションで表示するとよい(繰り返し計算毎の位置にノードを移動させてアニメーションを表示する手法は、グラフレイアウト法で慣用されている手法であるので説明は省略する)。
「スタックの隣接部」
図3に示すように、ワークスペース全体へのレイアウトの影響なく、類似した写真セットへの操作を可能とするために、隣接部の影響を及ぼす範囲130を各スタック122、124、126に設定する。写真のサムネイルがスタック126の隣接部130に属するように、当該写真とスタック122との最大距離を記述する閾値dnを定義する。もし、写真が一つ以上の隣接部130に属する場合には、最も近くにあるスタック122の隣接部130に当初割り当てる。
各隣接部130では、その隣接部130外へと繋がる全てのばね接続が切断される(ばね力が無いものとして計算する)。この結果、スタック122を新しい位置にドラッグすることができ、他に影響を与えずに、隣接部130の全てのサムネイル104を追従させることが可能となる。隣接部130を新しい位置へ移動させる手順を図5の(A)〜(D)に示す。図5の(A)は、ワークスペース102の初期レイアウト100を示し、既存のスタック122、124、126とともに新しいスタック132が示されている。各スタックには対応する隣接部134、136、138と新しい隣接部140とが表示される。図5の(A)で、スタック132および隣接部140はスタック124およびその隣接部136の隣に折り重なっているので、スタック132および隣接部140がよりすっきりと表示されるように、ユーザがスタック132をワークスペース内でドラッグする様子を示したのが図5の(B)、(C)、(D)である。図5の(B)〜(D)を通して、スタック132は、隣接部140としての閾値条件を満たす距離にある全てのサムネイル104を、引き連れて移動する。図5の(D)では、スタック132と隣接部140の移動がスタック122、124あるいは126あるいはそれらに対応する隣接部134、136、138にまったく影響していないことがわかる。さらに、いずれの隣接部にも属さない個別のノード106として機能するサムネイル104は、やはりスタック132および隣接部140の移動には影響されない。このため、ユーザは初期レイアウト100中の写真の既存のクラス、カテゴリあるいはファイルの関係に影響を与えずに、写真のクラスやカテゴリを整理することができる。
距離閾値dnには、例えば全ての接続されたノードの平均長(例えば、20%)を用いることができる。固定のパーセントを使用する以外に、ノードの数に応じて閾値を調整してもよい。ノード数の逆二乗根に比例するようなパーセンテージを使用する場合もよい結果が得られる。
「「粘着」および「凍結」隣接部」
隣接部間での頻繁な移動を避け、隣接部を形成する上で異なる距離指標を組み合わせることを可能とするために、隣接部は粘着あるいは凍結させることができる。これは隣接部の種類属性を設定することでシステムに写真の移動の判断をさせる。粘着隣接部は、もし、より好ましい隣接部が用意されたとしても、隣接部間が所定の距離条件を満たしているうちは隣接部を維持する。凍結隣接部は、距離条件を越えた場合でも隣接部は移動することができない。一例として、隣接部が粘着性であるとして、例えば追加の写真をあるスタックに追加した場合、もし、他のスタックの方が今より近いとしてもその写真は初期に振り分けたスタック隣接部に留まる。より適した隣接部があったとしても、写真は現在の隣接部から離れることを妨げられる。ただし、その写真と隣接部との距離が距離閾値dnを超えると、写真はその隣接部を離れ、他の隣接部に加わるか、レイアウトの一部となる。ユーザは一時的に隣接部を凍結することもでき、写真は距離が閾値を超えたとしても移動しなくなる。他との関連のない写真は凍結隣接部に追加できるようにしてもよい。凍結隣接部を用いると、写真はその隣接部内に累積し続ける。この手法は、ワークスペースを他の類似性指標で整理するときに有効である。例えば、最初に視覚的に類似した写真を隣接部に集め、続いて時間的に類似したもの、最後に空間的に類似したもの、を集めるといったことが可能となる。
また、システムはその写真が異なる(最適でない)隣接部中にあってもより適合するように表示するが、ユーザはそれらをその隣接部から放出するよう選択することもできる。例えば、図3では、ユーザが隣接部内で写真をハイライトすると、ポップアップメニュー152が隣接部に重なって表示される。ポップアップメニュー152は、隣接部から選択した写真を放出するためのオプションとして、写真をレイアウト102内に戻すか、より適当な他の隣接部に移動するかを提示してもよい。もし写真がその写真にとって現状で最適な隣接部である場合には、この放出オプションはグレーアウトされてユーザに移動の必要がないことを知らせる。このとき、写真に対する隣接部への帰属のためのユーザ指示は無い場合にその写真の帰属する隣接部を予め算出し、その写真の属性として最適隣接部の識別IDを付与しておき、ポップアップメニューの表示時に、オプションの表示あるいは非表示の制御を行うようにするとよい。
ユーザは、明示的に隣接部に対する写真の追加あるいは削除を指示できるようにしてもよい。追加された写真は、距離に関わらず隣接部内に維持される。除外された写真は、その後自動的にその隣接部に再度追加されないようにしてもよい。例えば、隣接部の属性情報として追加禁止の写真IDを付与する、あるいは写真に帰属させない隣接部IDを属性として付与するなどして、ユーザによる追加操作の処理時に制御を行うことができる。
図3に示すように、各スタック122は、環状のヘイロー142により視覚化された隣接部130に囲まれる。ヘイロー142の半径は先に記述した隣接部130の閾値距離に応じて決定し、例えば、これと等しくする。ただし厳密に一致している必要は勿論なく、直感的に隣接部の範囲が把握できるように表示すればよい。これにより、どのノード106が固定ノード106の隣接部130の中にあるかをユーザに視覚的に簡単にわかりやすく知らせることができる。加えて、隣接部の距離閾値以内のばねの接続は薄い線で表示させることもできる。ただしノード106は隣接部130以外とは完全に接続されているので、あえてすべてのばね接続114を表示する理由がない。そこで、例えば図2に示すように、固定あるいは非固定のノード106にマウスポインタを重ねたときに、距離閾値内のノード106と接続114を介して接続されたノード106への全てのばね接続114をハイライト表示させるようにすることができる。この視覚化手法はユーザが閉じた接続関係を見る手段としても利用できる。
デフォルト設定としては、全てのヘイロー142は同じ色である(例えば本実施例では青)。図6に示すように、ユーザが隣接部130Bを選択あるいはマウスオーバーしたとき、隣接部130A、130Cのヘイローの色は、その隣接部130Bにそれらの隣接部がどれだけ関係しているかを表わすように表示する。密接に関連した隣接部は赤いヘイロー144で表示し、ほぼ無関係な隣接部130Cは青いヘイロー146で表示する。密接に関連したノードと殆ど無関係なノードに関し隣接部は色により表現され、例えば、隣接部130Aの周囲にグレーがかった赤いヘイロー148あるいはグレーがかった青のヘイロー(図示せず)として表示する。上述のように、写真はもし複数のスタックに類似していたとしても、一つの隣接部130にのみ属することができる。2つのスタックの関連性を決定するには、距離閾値の条件を満たす、両方の隣接部に属し得る写真の数を調べる。一形態としては、2つの隣接部の類似性はJacard係数、すなわち、隣接部間の積集合をその和集合で割った値に応じて計算し、類似性を判断し、色付けをする。この視覚化方法ではシステムの視点で密接に関連するスタックが示唆されるので、システムにより誤って配置された要素をユーザが見つけ出すのに適した、誤りが発生しやすい場所となる。
また本実施形態では、図6に示すように、一つの隣接部130A中の、類似した隣接部130Bにも属し得る写真106を、隣接部130A中の該写真106を隣接部130Bのスタック122へと接続するハイライトされた接続線120によって視覚化することもできる。他の形態としては、関連するスタック間を単に接続するのに加えて、関連する隣接部間の写真も接続してもよい。
図7は、写真に変えて、テキストベースのドキュメント150の関係を視覚化したシステムの実施形態である。ドキュメント150のスタック122と隣接部130は同様に整理され、各ドキュメントはそのドキュメントの最初のページのサムネイル画像で視覚化される。図7に示すように、ドキュメント150としては、スプレッドシート、グラフ、ウェブページ、あるいは写真を含むテキストベースのドキュメントなどが含まれる。当業者であればドキュメント間の距離の関係を同様に、時間、地理コード、視覚的観点で前の実施形態の写真を用いたときと同様に実現できることは明らかであろう。
「ワークスペース内での拡大」
ユーザは、ワークスペース102をズームインあるいはズームアウトすることができる。複数のサムネイル間の距離とサムネイル画像104のサイズ間の距離が同じ拡大率で調整されると、ユーザは重なり合った写真を分離することができない。一方で、ズーム倍率がサムネイル間の距離だけに適用され、画像104のサイズが一定なら、ユーザはサムネイル画像をよく見ることができない。このため、システムはサムネイル間とサムネイル画像104のサイズとにそれぞれ別のズーム倍率を適用する。本実施形態では、システムはサムネイル画像のサイズのズーム倍率としてワークスペースのズーム倍率の平方根を用いる。例えば、もし写真間の距離が倍率4で増加した場合、サムネイル104のサイズは2倍だけ増加する。
「追加写真の要求」
ユーザは任意の類似性指標(視覚的、時間的、空間的等)を用いてスタック122に類似する、ワークスペース102外からの追加写真を検索できるようにすることもできる。検索された写真は最初に検索に使われたスタック122の隣接部130に加えられるが、ユーザが他の隣接部130に移動させることもできる。図3は、ワークスペース102に配置され追加されることになる、追加の類似写真が要求されたスタック124に重なってポップアップメニュー152が表示された様子を示す。例えば、ユーザが本発明を実現するコンピュータプログラムを実行させて、ユーザのコンピュータ上に保存される一部の写真だけを整理するようにする例を示す。まだワークスペース上に含まれていない、ユーザのコンピュータのハードディスクドライブ上にある追加の関連写真を整理したい場合には、ユーザはポップメニュー152上の「Get Similar」(類似検索)オプションを選択し、ハードディスクに対して追加の関連写真検索を実行させる。
「最適距離計測」
ユーザ定義のカテゴリを確立するための反復(iterative)手法は、ユーザの操作に応じたワークスペースの最適化手法に依存する。隣接部を有するスプリング(ばね)レイアウトでは、スタックに類似する画像がそのスタックの近くに移動し、隣接部間の潜在的な重なりがユーザに示される、という最適化の簡単な一形態である。より複雑な最適化手法は、各スタックに特別の距離指標を適用し、作成されたスタックに基づいて全体的に距離指標を再定義することでなされる。
スタックの距離指標を再定義する一手法は、先に説明したような、スタック中の写真間の平均2点間距離(average pair wise distance)がある。新しい写真がこのスタックに追加されたとき、この距離はユーザの定義を反映して変化する。他には、例えばガウス分布を用いた、スタック中の写真に対する確率モデルを推定する方法がある。スタックにおける写真の距離は、そのスタックのガウシアンモデルに基づく写真の確率の負の対数(negative log)とする。ガウシアンモデルの平均および共分散マトリクスはスタック中の写真に基づいて計算され、スタックに新しい写真が追加されるか除外されると更新される。作成日、地理的な距離、色コレログラムやコンセプトベクトルといった写真に関する様々な特徴を利用することができる。ユーザがグループに追加した写真に基づいてガウシアンが更新されると、分散の小さい特徴により高い重み付けをすることで、1以上のこれらのカテゴリについてグループ分けに関するユーザの意図を反映させる。スタックに対し他の最適化学習手法を使用することもできる。
より経験則的な手法でこれを行うには、スタックの要素をもっとも代表している特徴に基づいてスタックの距離指標の再定義を行う。これらの特徴を特定するには、スタック中の画像のサブセットの各特徴の平均(および標準偏差)をシステムが比較し、それらを写真コレクション全体の平均と標準偏差に対して比較する。上記コレクションの特徴中の一つの標準偏差よりも高い平均を有する特徴は、スタックへの理想距離の計算において重み付けが増加される。例えば、あるスタックは視覚的な距離については0.8の重み付けを、時間と地理的距離についてはそれぞれ0.1の重み付けを行う。他のスタックでは、地理的距離に関してより大きい重み付けを与えることもできる。平均以下の1以上の標準偏差の特徴を含めることもできるが、一方で否定証拠(implicit negative evidence)が潜在しているときには、現在のサブセットでは存在しない要素が偶然発生し、それらの多様な要素によって、ユーザが望むものに対して、より多くの誤検知(false positive)に基づく指示を生じてしまうかもしれないので注意が必要である。
このように、各スタックはそれぞれの距離指標を用いることになるため、ワークスペースでは効果的にカテゴリを表現することができ、それらの定義のために特徴空間の多様に変化するサブセットを用いる。このため、時間、位置、視覚的類似性、顔認識および他の特徴は、ある場合には距離計算で含めることができるが、含めることができない場合もある。
「シナリオ」
インタラクティブに写真をクラスタ化できることは様々なタスクにおいて有益である。以下のシナリオでは、プレゼンテーションのために写真を配置するため、写真セットにメタデータを付与するため、そして写真のコレクションを整理するための、ワークスペースを作成する。
「プレゼンテーション用の写真の配置」
友人と家族へ送る写真を選択するとき、トピックを概観するための写真を選択するとき、人々はそのプレゼンテーションに含めたい写真のカテゴリを特定する必要がある場合が多く、それにより各カテゴリから限定された数の写真を選択する。
既述したように、ワークスペースは異なる画像特徴に基づくカテゴリの作成を容易にする。このため、ローマ旅行の写真はコロセウム、人、噴水などの写真に分類され得る。ユーザは各カテゴリ中の1枚以上の写真を、旅行の全体像を代表的に表すために含めようとする。
これらのカテゴリは異なった定義の特徴を有する。地理的な位置および撮影時間はコロセウムの写真の強い特徴にはなりやすいが、他のカテゴリにとってはそうではない。同様に、顔認識に基づく特徴は人間の写真には強く結び付けられるが、他のカテゴリにはそうでもない。噴水の写真は視覚的な特徴でおそらくもっとも特徴付けられる。
最終的なプレゼンテーションに含めて例示したい写真のタイプについてのカテゴリをユーザが作成するとき、システムはそれらの異なるカテゴリにおける共通の特徴を用いて再定義された距離指標を使って空間を最適化する
「写真へのメタデータの付与」
上記と同様のシナリオで、写真のタグおよびメタデータは異なる画像特徴に基づいている。ゴールデンゲートブリッジの写真は強い場所の特徴を持ちやすいが、大晦日の祝賀の写真は、強い時間特徴を有し、日没の写真は強い視覚的特徴を持つ。カテゴリが定義され、ワークスペースが最適化されたとき、ユーザはカテゴリ中の要素と、定義したカテゴリ中の領域内の選択した写真にタグ/メタデータを付与することができる。
「写真コレクションの概観」
写真コレクションがコンピュータおよびインターネット上を移動するとき、これらのコレクションを管理するツールが必要となる。特に、管理者はそのコレクションの利用を支援するための、特徴に基づくコレクションの整理方法を考えなければならない。支援用のコンポーネントは、コレクションの内容の概要を示すため、訪問者はそのコレクションがニーズにマッチした素材を含んでいそうかをすぐに決定することができる。
コラージュ、モンタージュ、そして他の視覚化手法は、コレクションを理解するための支援手法として研究されており、その作業におけるそのコレクションの価値についての印象をユーザに提供する(非特許文献2)。この手法は選択した写真がコレクション全体を代表しているという期待が前提となっており、コレクションからの写真の選択に依存する傾向がある。
コレクションの理解の支援のためにワークスペースは二つの代替案を提供する。訪問者は現時点での関心に基づいて写真を移動させるためにワークスペースを使用し、システムはレイアウトを操作し、彼らの関心に基づいて空間中へのより多くの画像の抽出を支援する。他のアプローチとしてはコレクションの管理者が1以上のワークスペースを作成し、その内容がわかるようなコレクションの代替ビューを提供する。これらのワークスペースはインタラクティブで、訪問者が管理者による分類から始めて、訪問者の現在の活動により適合したカテゴリに移動することを支援する。
「コンピュータによる実現例」
図9は、本発明の実施形態に関わるコンピュータ/サーバーシステム900の実現例を例示したものである。このシステム900は、コンピュータ/サーバプラットフォーム901、周辺装置902とネットワークリソース903とを含んで構成される。
コンピュータプラットフォーム901は、情報をコンピュータプラットフォーム901内の多様なモジュールとの間で通信するためのデータバス904あるいは他の通信機構を有している。そして、プロセッサ(CPU)905は、情報処理や他の計算および制御処理を行うために、バス904と接続されている。コンピュータプラットフォーム901はさらに、多様な情報やプロセッサ905で処理される命令を記憶する、ランダムアクセスメモリ(RAM)や他の動的記憶装置のような揮発性記憶領域906がバス904に接続されている。揮発性記憶領域906はプロセッサ905の処理において一時的な変数や中間情報を記憶するために用いられてもよい。コンピュータプラットフォーム901は、統計情報や、基本入出力システム(BIOS)のような、プロセッサ905の命令や、様々なシステムのパラメータを記憶するために、バス904に接続されたリードオンリーメモリ(ROM)や他の静的記憶装置を備えても良い。
コンピュータプラットフォーム901には、システム管理者あるいはユーザに情報を提示するために、CRT、プラズマディスプレイ、ELディスプレイあるいは液晶ディスプレイなどのディスプレイ909が、バス904を介して接続されている。入力装置(キーボード)910はアルファベットと他のキーを備えており、プロセッサ905との通信や指示のためにバス904に接続されている。他のユーザ用入力装置としては、方向に関する情報を通信し、ディスプレイ909上でのカーソルの動きを制御するマウス、トラックボールあるいはカーソル方向キーのようなカーソル制御装置911がある。この入力装置は通常2軸での自由度をもっており、第1の軸(例えばx)および第2の軸(例えばy)を持つことで平面上での位置をそのデバイスで特定できることとなる。
外部記憶装置912を、拡張あるいは取り外し可能な記憶容量をコンピュータプラットフォーム901に提供するために、バス904を介してコンピュータプラットフォーム901に接続してもよい。コンピュータシステム900の一例で、外付けのリムーバブルメモリ(外部記憶装置912)は他のコンピュータシステムとのデータ交換を容易にするために、使用されてもよい。
本発明は、ここに記述された技術を実現するためのコンピュータシステム900の使い方に関連するものである。実施形態として、コンピュータプラットフォーム901のような機械上に、本発明に関するシステムを搭載する。本発明の一形態としては、ここで記載された技術を、揮発性メモリ906中の1以上の命令による1以上の処理をプロセッサ905に処理させることで実現させる。こうした命令は不揮発性記憶領域908のような他のコンピュータ読取可能な媒体から、揮発性メモリ906に読み出してもよい。揮発性メモリ906中に保持された一連の命令をプロセッサ905に実行させることで、ここに述べた処理ステップを実現させる。他の形態としては、ハードウェアの電子回路を、発明を実現するソフトウェアと、一部置き換え、あるいは、組み合わせてもよい。なお、本発明は特定のスペックを有するハードウェアやソフトウェアの組み合わせに限定されるものではない。
ここで、コンピュータ可読媒体とは、プロセッサ905が実行するための命令を提供するために用いられるあらゆる媒体を指す。コンピュータ可読媒体は機械読取可能媒体の一例であり、ここで述べた、いずれの方法もしくは技術をも実現するための命令を保持することができるものである。このような媒体は多様な形態をとり、不揮発性媒体、揮発性媒体、そして通信媒体といったものに限られない。不揮発性媒体としては、例えば、記憶装置(不揮発性記憶領域908)のような、光、磁気ディスクが含まれる。揮発性媒体としては、例えば揮発性記憶装置906のような動的メモリを含む。通信媒体は、データバス904のような配線を含む同軸ケーブル、銅線、光ファイバーなどであってよい。通信媒体は、電磁波や赤外光データ通信のような、音波や光を利用したものも含む。
コンピュータ可読媒体の一般的な形態は、例えば、フロッピー(登録商標)ディスク、ハードディスク、磁気テープあるいは他の磁気媒体、CD-ROMあるいは他の光記憶媒体、パンチカード、紙テープなどの穴の配置を用いる媒体、RAM、ROM、EPROM、フラッシュEPROM、フラッシュドライブ、メモリーカードなどのメモリチップやカートリッジ、通信波、あるいはコンピュータが読み取ることができる他の媒体、といった通常のコンピュータ可読媒体を含む。
さまざまな形態のコンピュータ可読媒体が、プロセッサ905で処理される1以上の処理を実行させるために用いることができる。例えば、その命令が最初はリモートコンピュータから磁気ディスクに保持されてもよい。あるいは、リモートコンピュータがその命令を動的記憶装置にロードして、モデムを用いた電話回線を通じて該命令を送信してもよい。コンピュータシステム900に接続されたモデムは、電話回線を通じてデータを受け取るとともに、データを赤外線信号に変換して赤外線として伝送するようにしてもよい。赤外線検出装置は、赤外線信号に重畳されたデータを受信し、適当な回路がそのデータをデータバス904に伝送する。バス904は揮発性記憶領域906にデータを伝送し、プロセッサ905がその命令を参照して実行できる状態におく。揮発メモリ(揮発性記憶領域906)から受け取った命令はプロセッサ905により処理される前あるいは後に不揮発性記憶装置908に保存されるようにしてもよい。命令は、周知のネットワークデータ通信プロトコルのいずれかで、インターネットを介してコンピュータプラットフォーム901にダウンロードするようにしてもよい。
コンピュータプラットフォーム901は、データバス904に結合したネットワークインターフェースカード913のような通信インターフェースも有する。通信インターフェース913はローカルネットワーク915に接続されたネットワークリンク914に接続し、双方向のデータ通信が可能とされる。例えば、通信インターフェース913はISDNカードやモデムと一体化され、対応する電話回線でのデータ通信を行わせるようにしてもよい。他の例としては、LANや802.11a, 802.11b, 802.11g として周知の無線LANリンクに適合したデータ通信接続を行うローカルエリアネットワークインターフェースカード(LAN NIC)としたり、Bluetooth(登録商標)を用いたりして実現してもよい。いずれの場合でも、通信インターフェース913は、様々なタイプの情報を表すデジタルデータ列を伝送する、電気、電磁、あるいは光信号を送受信する。
ネットワークリンク914は、1以上の他のネットワークとのデータ通信を通常可能とする。例えば、ネットワークリンク914は、ローカルネットワーク915を介して、ホストコンピュータ916やネットワークストレージやサーバー922への接続を提供する。加えて、あるいは代替として、ネットワークリンク914は、インターネットのような、広域あるいはグローバルネットワーク918にゲートウェイ/ファイアウォール917を通じて接続する。そしてコンピュータプラットフォーム901はインターネット918上のどこかにある、例えばリモートネットワークストレージ/サーバー919といった、ネットワークリソースにもアクセスすることが可能となる。一方、コンピュータプラットフォーム901は、ローカルエリアネットワーク915および/またはインターネット918上のいかなる位置にいるクライアントからもアクセスできるようにしてもよい。ネットワーククライアント920および921は、プラットフォーム901と同様のコンピュータプラットフォームに基づいて構築しても良い。
ローカルネットワーク915とインターネット918は、共に電気、電磁、あるいは光信号を、データ信号列を伝播するために用いる。なお、デジタルデータをコンピュータプラットフォーム901に入出させる、多様なネットワークを通じた信号、ネットワークリンク914上や、通信インターフェース913を介した信号は情報伝送の伝送波の例示的な形態である。
コンピュータプラットフォーム901は、メッセージの送信、プログラムコードを含むデータの受信を、インターネット918およびLAN915を含む多様なネットワーク、ネットワークリンク914および通信インターフェース913を介して行うことができる。インターネットの例では、コンピュータプラットフォーム901はネットワークサーバとして機能し、クライアント920および/または921で実行されるアプリケーションプログラム用の、リクエストコードやデータを、インターネット918、ゲートウェイ/ファイアウォール917、ローカルエリアネットワーク915および通信インターフェース913を介して伝送する。同様に、他のネットワークリソースからコードを受信してもよい。
受信したコードはプロセッサ905によって受信時に実行されるか、不揮発記憶装置908あるいは揮発記憶装置906に保存してもよいし、あるいは他の不揮発性記憶領域に記憶して、後で実行してもよい。このようにしてコンピュータ901は伝送波からアプリケーションコードを取得できる。
このように本発明は、複数のファイルのグループを、それらの関係に基づいて、適応的で、インタラクティブなグラフベースの視覚的なワークスペース内で表示するシステムおよび方法に関するものである。例えば、ファイルの関係は、直接的なグラフベースのレイアウト操作による直感的なカテゴリの修正を用いて視覚化される。視覚的なワークスペースは関連するファイルのサムネイル画像をグラフとして結合した状態から開始され、ユーザが、異なるカテゴリに対応するファイルのスタックを作成したことに応じて隣接部(neighborhoods)にこれらを分割する。リンクを図示するためのばねの長さを規格化することで全体的なレイアウトの品質を向上させることもできる。さらに、検索されたファイルを以前からのファイルを大きく移動させること無く加えることもできる。表示手法を異ならせることで互いのファイルの関係を示すこともできる。例えば、楕円形状のサムネイルをリング状に配置した楕円形状のウィンドウは、簡単に視覚的およびスペースを有効に使って、ファイルのグループを表示できる。またファイルの位置によりズーム倍率を異ならせるとき、楕円形状の表示代替物のサイズが増加していったとしても、ファイル間の分離を増やすことも可能となる。
最後に、ここに記載した方法や技法は、特定の装置固有に成り立つものでなく、いかなる適当な構成要素の組み合わせによっても実現できることを理解されたい。また、この開示の示唆に従って、多様な一般用途の装置を用いてもよい。またここで開示した手法を実現する専用の装置を作成することも有効である。この発明は特定の例示に基づいて記述されているが、それらは全て限定的にするためではなく、例示するためのものである。当業者であれば、ハードウェア、ソフトウェアおよびファームウェアの多くの異なる組み合わせが本発明を実施するのに適当であることは理解され得ることであろう。例えば、ソフトウェアの記述は、アセンブラ, C/C++, pearl, shell, PHP, Java(登録商標)といった多様なプログラムあるいはスクリプト言語を用いて実現できる。
さらに、当業者であればここに開示された本発明の明細書および実施例に基づいて、本発明の他の改良もまた明らかであろう。実施形態に記述された多様な観点や構成は、このコンピュータにより実現される画像検索システムを単独もしくは組み合わることにより利用することができる。明細書と実施例は例示的なものと解釈され、真の発明の示す範囲と思想はクレームにより示されるものである。
100 レイアウト
102 ワークスペース
104 サムネイル画像
106、108、110、111、112 ノード
120 接続線
122、124、126 スタック
134、136、138、140 隣接部
142、144、146、148 ヘイロー
150 ドキュメント
160 ポップアップウィンドウ

Claims (22)

  1. 図表により視覚化されるワークスペース中で複数のファイルを表示する方法であって、
    コンピュータにより再生される複数のファイルを取得し、
    前記ワークスペース中に前記複数のファイルを表す各代替画像を、前記複数のファイルの間の類似性に基づいて定められた距離に応じて図表的に配置し、
    前記複数のファイルの少なくとも一部のファイルを含む少なくとも一つのスタックを決定し、
    前記ワークスペース中で前記少なくとも一つのスタックに近接するファイルを判別し、近接すると判断された前記ファイルを用いて近接部を形成する、
    ことを特徴とするファイルの表示方法。
  2. 前記近接部に属するファイルを前記スタックからの距離に基づいて決定することを特徴とする請求項1記載のファイルの表示方法。
  3. 前記近接部に属するファイルを決定するための閾値となる前記スタックからの距離は、前記隣接部が形成された後に変更されることを特徴とする請求項2記載のファイルの表示方法。
  4. 前記隣接部に属するファイルが、前記隣接部の形成後に前記ファイルの間の距離を再調整するときに現在属する前記隣接部よりも近接する隣接部が存在しても、前記ファイルが属する隣接部を変更しないように制御することを特徴とする請求項2記載のファイルの表示方法。
  5. 前記隣接部に属するファイルが、前記隣接部の形成後に現在属する前記隣接部に属する条件を満たさなくなった場合、前記ファイルが属する隣接部を変更しないように制御することを特徴とする請求項2記載のファイルの表示方法。
  6. 前記隣接部が形成された後、前記複数のファイルの少なくとも一つが前記隣接部に属する条件を満たした場合にも、前記少なくとも一つのファイルを前記隣接部に属さないように制御することを特徴とする請求項2記載のファイルの表示方法。
  7. 図表により視覚化されるワークスペース中で複数のファイルを表示装置上に表示する装置であって、
    コンピュータにより再生される複数のファイルを取得する取得手段と、
    前記ワークスペース中に前記複数のファイルを表す代替画像の各々を、前記複数のファイルの間の類似性に基づいて定められた距離に応じて図表的に配置する配置手段と、
    前記複数のファイルの少なくとも一部のファイルを含む少なくとも一つのスタックを決定するスタック形成手段と、
    前記ワークスペース中で前記少なくとも一つのスタックに近接する前記ファイルを判別し、近接すると判断された前記ファイルを用いて近接部を形成する隣接部形成手段と
    を備えることを特徴とするファイルの表示装置。
  8. 前記隣接部形成手段は、前記近接部に属するファイルを前記スタックからの距離に基づいて決定することを特徴とする請求項7記載のファイルの表示装置。
  9. 前記隣接部形成手段は、前記近接部に属するファイルを決定するための閾値となる前記スタックからの距離を、前記隣接部が形成された後に変更することを特徴とする請求項8記載のファイルの表示装置。
  10. 前記隣接部形成手段は、前記隣接部に属するファイルが、前記隣接部の形成後に前記ファイルの間の距離を再調整するときに現在属する前記隣接部よりも近接する隣接部が存在した場合でも、前記ファイルが属する隣接部を変更しないように制御することを特徴とする請求項8記載のファイルの表示装置。
  11. 前記隣接部形成手段は、前記隣接部に属するファイルが、前記隣接部の形成後に現在属する前記隣接部に属する条件を満たさなくなった場合、前記ファイルが属する隣接部を変更しないように制御することを特徴とする請求項8記載のファイルの表示装置。
  12. 前記隣接部形成手段は、前記隣接部が形成された後、前記複数のファイルの少なくとも一つが前記隣接部に属する条件を満たした場合にも、前記少なくとも一つのファイルを前記隣接部に属さないように制御することを特徴とする請求項8記載のファイルの表示装置。
  13. コンピュータに、図表によって視覚化されるワークスペース中で複数のファイルを表示手段上に表示させる機能を実現させるためのコンピュータプログラムであって、
    前記機能は、
    コンピュータにより再生される複数のファイルを取得し、
    前記ワークスペース中に前記複数のファイルを表す代替画像の各々を、前記複数のファイルの間の類似性に基づいて定められた距離に基づいて図表的に配置し、
    前記複数のファイルの少なくとも一部のファイルを含む少なくとも一つのスタックを決定し、
    前記ワークスペース中で前記少なくとも一つのスタックに近接する前記ファイルを判別し、近接すると判別された前記ファイルを用いて近接部を形成する、
    ことを含む、ファイルの表示用コンピュータプログラム。
  14. 前記ワークスペースには前記ファイルの間が所定の類似性を有する場合に前記ファイルの間を接続する線分を表示させ、前記隣接部に属するファイルと前記隣接部外に属するファイルとの間には線分を表示させないように表示制御を行わせることを特徴とする請求項13記載のファイルの表示用コンピュータプログラム。
  15. 前記ファイルの類似性に基づいて定められた距離は、前記複数のファイルが前記スタック内にあるときは前記スタック外にある時よりも短くなるように制御させることを特徴とする請求項13記載の表示用コンピュータプログラム。
  16. 前記近接部に属するファイルを前記スタックからの距離に基づいて決定させることを特徴とする請求項13記載の表示用コンピュータプログラム。
  17. 前記近接部に属するファイルを決定するための前記スタックからの距離閾値は、前記隣接部が形成された後に変更させることを特徴とする請求項13記載の表示用コンピュータプログラム。
  18. 前記隣接部に属するファイルが、前記隣接部の形成後に前記ファイルの間の距離を再調整するときに現在属する前記隣接部よりも近接する隣接部が存在しても、前記ファイルが属する隣接部を変更しないように制御させることを特徴とする請求項13記載の表示用コンピュータプログラム。
  19. 前記隣接部に属するファイルが、前記隣接部の形成後に現在属する前記隣接部に属する条件を満たさなくなった場合、前記ファイルが属する隣接部を変更しないように制御させることを特徴とする請求項13記載の表示用コンピュータプログラム。
  20. 前記隣接部が形成された後、前記複数のファイルの少なくとも一つが前記隣接部に属する条件を満たした場合にも、前記少なくとも一つのファイルを前記隣接部に属さないように制御させることを特徴とする請求項13記載の表示用コンピュータプログラム。
  21. 複数の前記隣接部間の類似性を図表により表示させることを特徴とする請求項13記載の表示用コンピュータプログラム。
  22. 前記隣接部に属する前記ファイルの周囲を取り囲む色付けされた領域を用いて前記類似性を表示させることを特徴とする請求項13記載の表示用コンピュータプログラム。
JP2009065784A 2008-06-12 2009-03-18 ファイルを表示する方法、装置およびプログラム Expired - Fee Related JP5444776B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/137,718 US8832119B2 (en) 2008-06-12 2008-06-12 Systems and methods for organizing files in a graph-based layout
US12/137,718 2008-06-12

Publications (2)

Publication Number Publication Date
JP2009301536A true JP2009301536A (ja) 2009-12-24
JP5444776B2 JP5444776B2 (ja) 2014-03-19

Family

ID=41415717

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009065784A Expired - Fee Related JP5444776B2 (ja) 2008-06-12 2009-03-18 ファイルを表示する方法、装置およびプログラム

Country Status (2)

Country Link
US (1) US8832119B2 (ja)
JP (1) JP5444776B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014215742A (ja) * 2013-04-24 2014-11-17 日本電信電話株式会社 情報処理装置、特徴量変換システム、表示制御方法及び表示制御プログラム
JP2020035423A (ja) * 2018-08-27 2020-03-05 カシオ計算機株式会社 類似画像表示制御装置、類似画像表示制御システム、類似画像表示制御方法、表示制御装置、表示制御システム、表示制御方法及びプログラム
JP2021005351A (ja) * 2019-09-09 2021-01-14 株式会社ラディウス・ファイブ 画像表示システム及びプログラム
US11436530B2 (en) 2015-07-27 2022-09-06 Pivotal Software, Inc. Classifying user behavior as anomalous

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8639028B2 (en) * 2006-03-30 2014-01-28 Adobe Systems Incorporated Automatic stacking based on time proximity and visual similarity
JP2009118148A (ja) * 2007-11-06 2009-05-28 Ricoh Co Ltd 画像表示装置、画像表示方法、画像表示プログラム及び記憶媒体
US9697751B2 (en) 2010-03-09 2017-07-04 Microsoft Technology Licensing, Llc Interactive representation of clusters of geographical entities
US9652462B2 (en) * 2010-04-29 2017-05-16 Google Inc. Identifying responsive resources across still images and videos
US9762975B2 (en) * 2010-04-30 2017-09-12 Thomas Loretan Content navigation guide
EP2405338A1 (en) * 2010-07-06 2012-01-11 HTC Corporation Method for presenting man machine interface and handheld device and computer-readable medium using the method
US20120166496A1 (en) * 2010-12-23 2012-06-28 Microsoft Corporation Techniques for generating custom objects representing content files
US9436685B2 (en) 2010-12-23 2016-09-06 Microsoft Technology Licensing, Llc Techniques for electronic aggregation of information
US20190266223A1 (en) * 2011-03-01 2019-08-29 Applaud, Llc Personalized memory compilation for members of a group and collaborative method to build a memory compilation
US9286643B2 (en) 2011-03-01 2016-03-15 Applaud, Llc Personalized memory compilation for members of a group and collaborative method to build a memory compilation
US9715485B2 (en) 2011-03-28 2017-07-25 Microsoft Technology Licensing, Llc Techniques for electronic aggregation of information
US20150135048A1 (en) * 2011-04-20 2015-05-14 Panafold Methods, apparatus, and systems for visually representing a relative relevance of content elements to an attractor
US20120272168A1 (en) * 2011-04-20 2012-10-25 Panafold Methods, apparatus, and systems for visually representing a relative relevance of content elements to an attractor
US9449411B2 (en) * 2011-04-29 2016-09-20 Kodak Alaris Inc. Ranking image importance with a photo-collage
US9852716B2 (en) * 2011-06-14 2017-12-26 Nokia Technologies Oy Method and apparatus for causing a portion of at least one content item to be highlighted relative to another portion of the at least one content item during movement of the content item
US8762390B2 (en) * 2011-11-21 2014-06-24 Nec Laboratories America, Inc. Query specific fusion for image retrieval
US9552129B2 (en) * 2012-03-23 2017-01-24 Microsoft Technology Licensing, Llc Interactive visual representation of points of interest data
US9015581B2 (en) * 2012-03-26 2015-04-21 Vistaprint Schweiz Gmbh Self-adjusting document layouts using system optimization modeling
US9098516B2 (en) * 2012-07-18 2015-08-04 DS Zodiac, Inc. Multi-dimensional file system
US8897556B2 (en) 2012-12-17 2014-11-25 Adobe Systems Incorporated Photo chapters organization
US8983150B2 (en) 2012-12-17 2015-03-17 Adobe Systems Incorporated Photo importance determination
US9411831B2 (en) * 2013-03-01 2016-08-09 Facebook, Inc. Photo clustering into moments
JP2014191757A (ja) * 2013-03-28 2014-10-06 Fujitsu Ltd 情報処理方法、装置及びプログラム
CN104346033B (zh) * 2013-08-09 2017-09-22 联想(北京)有限公司 一种信息处理方法及电子设备
US9785773B2 (en) * 2014-07-03 2017-10-10 Palantir Technologies Inc. Malware data item analysis
US20180181281A1 (en) * 2015-06-30 2018-06-28 Sony Corporation Information processing apparatus, information processing method, and program
US10102369B2 (en) 2015-08-19 2018-10-16 Palantir Technologies Inc. Checkout system executable code monitoring, and user account compromise determination system
US10713304B2 (en) * 2016-01-26 2020-07-14 International Business Machines Corporation Entity arrangement by shape input
US20170337293A1 (en) * 2016-05-18 2017-11-23 Sisense Ltd. System and method of rendering multi-variant graphs
US10565749B1 (en) * 2016-06-10 2020-02-18 Invincea, Inc. Methods and apparatus for efficiently processing a graph data structure
US9836183B1 (en) * 2016-09-14 2017-12-05 Quid, Inc. Summarized network graph for semantic similarity graphs of large corpora
US10776415B2 (en) * 2018-03-14 2020-09-15 Fuji Xerox Co., Ltd. System and method for visualizing and recommending media content based on sequential context
US10824749B2 (en) * 2018-09-28 2020-11-03 Code 42 Software, Inc. Automatic graph-based detection of unlikely file possession
CN114641983A (zh) * 2019-12-09 2022-06-17 核心光电有限公司 用于获得智能全景图像的系统及方法
US11949976B2 (en) * 2019-12-09 2024-04-02 Corephotonics Ltd. Systems and methods for obtaining a smart panoramic image

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000305933A (ja) * 1999-04-26 2000-11-02 Canon Inc 情報検索装置、情報検索方法、及び記憶媒体
JP2001350793A (ja) * 2000-06-05 2001-12-21 Fuji Xerox Co Ltd 関連情報表示制御装置及び関連情報表示方法
US7028050B1 (en) * 1999-04-15 2006-04-11 Canon Kabushiki Kaisha Data display apparatus and data display method

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5801699A (en) * 1996-01-26 1998-09-01 International Business Machines Corporation Icon aggregation on a graphical user interface
US6742003B2 (en) * 2001-04-30 2004-05-25 Microsoft Corporation Apparatus and accompanying methods for visualizing clusters of data and hierarchical cluster classifications
US6347313B1 (en) * 1999-03-01 2002-02-12 Hewlett-Packard Company Information embedding based on user relevance feedback for object retrieval
US6853389B1 (en) * 1999-04-26 2005-02-08 Canon Kabushiki Kaisha Information searching apparatus, information searching method, and storage medium
US6798911B1 (en) * 2001-03-28 2004-09-28 At&T Corp. Method and system for fuzzy clustering of images
US6768816B2 (en) * 2002-02-13 2004-07-27 Convey Corporation Method and system for interactive ground-truthing of document images
US8370761B2 (en) * 2002-02-21 2013-02-05 Xerox Corporation Methods and systems for interactive classification of objects
US7555718B2 (en) * 2004-11-12 2009-06-30 Fuji Xerox Co., Ltd. System and method for presenting video search results
US20070244925A1 (en) * 2006-04-12 2007-10-18 Jean-Francois Albouze Intelligent image searching
US20080172628A1 (en) * 2007-01-15 2008-07-17 Microsoft Corporation User Experience for Creating Semantic Relationships

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7028050B1 (en) * 1999-04-15 2006-04-11 Canon Kabushiki Kaisha Data display apparatus and data display method
JP2000305933A (ja) * 1999-04-26 2000-11-02 Canon Inc 情報検索装置、情報検索方法、及び記憶媒体
JP2001350793A (ja) * 2000-06-05 2001-12-21 Fuji Xerox Co Ltd 関連情報表示制御装置及び関連情報表示方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014215742A (ja) * 2013-04-24 2014-11-17 日本電信電話株式会社 情報処理装置、特徴量変換システム、表示制御方法及び表示制御プログラム
US11436530B2 (en) 2015-07-27 2022-09-06 Pivotal Software, Inc. Classifying user behavior as anomalous
JP2020035423A (ja) * 2018-08-27 2020-03-05 カシオ計算機株式会社 類似画像表示制御装置、類似画像表示制御システム、類似画像表示制御方法、表示制御装置、表示制御システム、表示制御方法及びプログラム
JP7176486B2 (ja) 2018-08-27 2022-11-22 カシオ計算機株式会社 類似画像表示制御装置、類似画像表示制御システム、類似画像表示制御方法及びプログラム
JP2021005351A (ja) * 2019-09-09 2021-01-14 株式会社ラディウス・ファイブ 画像表示システム及びプログラム
JP7176164B2 (ja) 2019-09-09 2022-11-22 株式会社ラディウス・ファイブ 画像表示システム及びプログラム

Also Published As

Publication number Publication date
US20090313267A1 (en) 2009-12-17
US8832119B2 (en) 2014-09-09
JP5444776B2 (ja) 2014-03-19

Similar Documents

Publication Publication Date Title
JP5444776B2 (ja) ファイルを表示する方法、装置およびプログラム
KR101377389B1 (ko) 다차원 검색 시스템, 다차원 검색을 수행하는 컴퓨터 구현 방법 및 컴퓨터 실행가능 시스템
JP4776894B2 (ja) 情報検索方法
US11182408B2 (en) Generating and applying an object-level relational index for images
US6556710B2 (en) Image searching techniques
US8724908B2 (en) System and method for labeling a collection of images
JP5241954B2 (ja) 形状に基づく画像検索
JP2004178605A (ja) 情報検索装置及びその方法
US10255355B2 (en) Method and system for information retrieval and aggregation from inferred user reasoning
JP2011507099A (ja) イメージ検索における対話型概念学習
US10698917B2 (en) Managing electronic slide decks
JP2006508446A (ja) 情報格納及び検索方法
JP2005122690A (ja) 情報処理
JP2004178604A (ja) 情報検索装置及びその方法
WO2008073505A1 (en) System and methods of image retrieval
US10656814B2 (en) Managing electronic documents
CN111753152A (zh) 将与搜索查询关联的数据可视化的系统和方法及计算装置
JP5595548B2 (ja) コンテンツ管理装置、コンテンツ管理装置の制御方法、プログラム、及びプログラムを記録した記録媒体
US20180285965A1 (en) Multi-dimensional font space mapping and presentation
US20180349449A1 (en) Managing electronic slide decks
JP2004213626A (ja) 情報の格納及び検索
JP2004164608A (ja) 情報検索装置
CN107103023B (zh) 使用自动生成的存储层级组织电子存储的文件
Girgensohn et al. MediaGLOW: organizing photos in a graph-based workspace
JP2004110834A (ja) 情報記憶検索システム及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131209

R150 Certificate of patent or registration of utility model

Ref document number: 5444776

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees