JP5289586B2 - 動的なイメージコラージュ - Google Patents

動的なイメージコラージュ Download PDF

Info

Publication number
JP5289586B2
JP5289586B2 JP2011547895A JP2011547895A JP5289586B2 JP 5289586 B2 JP5289586 B2 JP 5289586B2 JP 2011547895 A JP2011547895 A JP 2011547895A JP 2011547895 A JP2011547895 A JP 2011547895A JP 5289586 B2 JP5289586 B2 JP 5289586B2
Authority
JP
Japan
Prior art keywords
image
templates
layers
generating
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011547895A
Other languages
English (en)
Other versions
JP2012516499A (ja
Inventor
スラッター,デビッド
チートル,フィル
グレッグ,ダリル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hewlett Packard Development Co LP
Original Assignee
Hewlett Packard Development Co LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Development Co LP filed Critical Hewlett Packard Development Co LP
Publication of JP2012516499A publication Critical patent/JP2012516499A/ja
Application granted granted Critical
Publication of JP5289586B2 publication Critical patent/JP5289586B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Description

大抵の人は、索引付けに乏しい個人用媒体を多数収集しており、その殆どは、非常に感情に訴えるものではあるが視覚的品質が比較的低いものである。熟練者は、かかる収集したものから視覚的に魅力的な芸術品(例えば、合成画像及びスライドショー)を生み出すことができるが、それを実施するための時間又は創造力を有するユーザは僅かである。スクリーンベースの写真表示のための従来の手法は、2つのカテゴリ、すなわち、手作業で作成されたスライドショー(イメージ間で何らか種類の遷移を伴って一度に1つのイメージを表示する)と、自動的に生成される一連のイメージのビデオ(おそらくは何らかの視覚効果が重畳され音楽が設定される)とに分類される傾向がある。ランダム写真選択スクリーンセーバーは、それらカテゴリの中間に属するものである。
必要とされているのはイメージを表示するための改良されたシステム及び方法である。
一側面では、本発明は、一連のテンプレートを決定する方法を特徴とする。該テンプレートの各々は、一表示領域内の複数の区域のそれぞれの時空間的レイアウトを定義する。該区域の各々は、それぞれの組をなす1つ又は2つ以上のイメージ選択基準と、それぞれの組をなす1つ又は2つ以上の時間的挙動属性値とに関連づけられる。複数のテンプレートの各々毎に、該テンプレートの複数の区域の各々毎のそれぞれのイメージレイヤーが確認される。このプロセスにおいて、該複数のレイヤーの各々毎に、それぞれの組をなすイメージ選択基準に従って、それぞれのイメージ要素がそれぞれの区域に割り当てられる。一連のフレーム中の各フレーム毎にそれぞれの組をなすレンダリングパラメータ値が生成される。各々の組をなすパラメータ値は、複数のテンプレートのうちの1つ又は2つ以上について決定されたそれぞれの組をなすイメージレイヤーと、それぞれの組をなす時間的挙動属性値とに基づいて、表示領域中のそれぞれのフレームの構成を指定する。この複数組のレンダリングパラメータ値が合成イメージレンダラへ出力される。
本発明はまた、上述の本発明の方法を実施するよう動作することが可能な装置、及び、上述の本発明の方法をコンピュータに実施させるコンピュータ読み取り可能命令を格納したコンピュータ読み取り可能媒体を特徴とする。
本発明の他の特徴及び利点は、図面及び特許請求の範囲を含めて以下の詳細な説明から明らかとなろう。
動的イメージコラージュ生成手段の一実施形態のブロックズである。 動的イメージコラージュの生成方法の一実施形態のフローチャートである。 動的イメージコラージュを生成するプロセスにおける情報の流れを示す説明図である。 動的イメージコラージュの生成プロセスで生成されるそれぞれのフレームを示す説明図である。 動的イメージコラージュの生成プロセスで生成されるそれぞれのフレームを示す説明図である。 図1の動的イメージコラージュ生成手段の一実施形態のブロック図である。 一連のインタリーブされたテンプレート及び遷移を示す説明図である。 ソースイメージから1つ又は2つ以上のイメージ要素を抽出する方法の一実施形態を示すフローチャートである。 回避マップの一実施形態を示す説明図である。 動的イメージコラージュの装飾レイヤーを生成する方法の一実施形態を示すフローチャートである。 動的イメージコラージュのフレームをレンダリングするプロセスにおいて複数のレイヤーをスケジューリングする方法の一実施形態を示すフローチャートである。 図1の動的イメージコラージュ生成手段の一実施形態を実施するコンピュータシステムの一実施形態のブロック図である。
以下の説明では同様の符号は同様の構成要素を識別するために使用される。更に、図面は、例示的な実施形態の主な特徴を図式的に例示することを意図したものである。該図面は、実際の実施形態のあらゆる特徴及び図示する構成要素の相対的な寸法を示すことを意図したものではなく、実際とは異なる縮尺で描かれている。
I.用語の定義
「テンプレート」とは、複数のコンテンツ区域の空間的レイアウトのコンテンツなしの仕様であり、該区域の各々は、それぞれの時間的挙動及びその他の属性に関連づけることが可能なものである。
本書で使用する場合、「イメージ要素」とは、イメージの一部に対する引用であり、1つ又は2つ以上の属性値に関連づけることが可能なものである。
「フレーム」とは、1つ又は2つ以上のレイヤーを合成してなる1つの完全なイメージである。
「レイヤー」とは、合成イメージの異なる要素を定義するオブジェクトである。レイヤーは、特定の透明/不透明及び複数の他の特性(時空間的特性を含む)を有することができる。
「マット」とは、1つのレイヤーに関係するものであり、最終的な合成イメージに対する該レイヤーの画素の寄与(例えば透明度)を示すものである。
用語「z順」とは、合成イメージを形成するために複数のレイヤーが組み合わされる順番を意味している。
イメージの「非写実的」変異とは、イメージを意図的かつ文体的に変形させた該イメージの変形例を称するものである。
本書で使用する場合、用語「〜を含む」とは、〜を含むがそれに限定左内ことを意味し、用語「〜を含んでいる」とは、〜を含んでいるがそれに限定されないことを意味している。「〜に基づき」とは、少なくとも部分的に基づくことを意味している。
II.序論
大抵の人は、索引付けが乏しい個人的な媒体(特に、ディジタル写真及びディジタルビデオクリップ)を多数収集しており、その殆どは、非常に感情に訴えるものではあるが、視覚的品質が比較的低いものである。家庭で大きな電子的な表示空間を次第に利用できるようになってきたことにより、これらの媒体の収集体に基づくアンビエント体験の配信が支援されることとなった。本書で説明する実施形態は、イメージ(例えばディジタル写真及びそこから抽出された際立つ要素等のイメージ要素)の動的コラージュを自動的に生成するよう動作することが可能なものである。該コラージュは、見るものの関心を長期間にわたって維持し易い視覚的に魅力のあるアンビエント体験を生じさせるように、時間と共に絶えず変化するよう構成することが可能である。これら実施形態は典型的には、ユーザが面白いと思い易いことに関する知識が不完全なものである。しかし、ユーザの写真から関心のある多数のオブジェクトを抽出してそれらを一緒に表示させることにより、これら実施形態は典型的には、ユーザが該動的コラージュ内に少なくとも1つの関心のあるものを見る蓋然性が高くなるように、視覚的なターゲットの豊富な選択肢をユーザに提供することが可能なものとなる。場合によっては、動的コラージュの仕様は、同じ構成が2回以上提示される蓋然性を低下させるよう視覚的コンテンツの提示に多数の考え得る変形を利用することができ、これにより、イメージ収集体の提示が斬新な魅力を常に有することが確実となる。
実施形態によっては、適応型のバックグランド生成手段を含み、該バックグランド生成手段は、表示の全体的なインパクトが好ましいものとなるようにイメージ要素の提示と視覚的に統合させることができる多数のバックグランド要素を生成する。バックグランドは典型的には、コラージュの配置に合うよう自動的に設計され、これによりバックグランド及びフォアグランドにおける関心の高い領域の重複が防止される。
実施形態によっては、設計者テンプレートを使用して、プリント用の高品質イメージを提供するテーマのあるコラージュを生成するためのイメージ選択基準及び時間的挙動属性を指定することが可能である。1つのテンプレートに従って生成されたコラージュ構成を受け入れるだけの十分な時間がユーザに許された後、それと同じテンプレート又は異なるテンプレートに従って生成された他の構成へと見る者をいざなうコンテンツドリブン型遷移を介してユーザの関心は維持される。これら実施形態は、指定されたテーマ(例えば、同じ人の写真の顔)を1つのコラージュから次のコラージュへと自動的に継続し及び発展させることが可能である。
III.概説
図1は、コラージュレイヤー生成手段12、合成イメージレンダラ14、及びディスプレイ16を含む、動的コラージュ生成システム10の一実施形態を示している。動作時には、該コラージュレイヤー生成手段12は、動的コラージュ構成のレイヤー18を決定し、合成イメージレンダラ14によるレンダリングのために該レイヤー18のスケジューリングを行う。前記合成イメージレンダラ14は、前記コラージュレイヤー生成手段12により生成されたレイヤー18から一連のフレーム20を生成し、該フレームをディスプレイ16へ渡す。該ディスプレイ16は、該フレームを見ることができるよう表示する。
図2は、前記コラージュレイヤー生成手段12により実施される方法の一実施形態を示している。
図2の方法によれば、コラージュレイヤー生成手段12は、一連のテンプレート22を決定する(図2のブロック24)。コラージュレイヤー生成手段12は典型的には、テンプレートデータベース26からテンプレート22を選択する。該一連のテンプレート中のテンプレート22は、ランダムに又は所定のテンプレート選択プランに従って選択することが可能である。テンプレート22の各々は、表示領域内の複数の区域のそれぞれの時空間的レイアウトを定義し、この場合、該区域の各々は、それぞれの組をなす1つ又は2つ以上のイメージ選択基準と、それぞれの組をなす1つ又は2つ以上の時間的挙動属性値とに関連づけられる。テンプレート22は、イメージ要素テンプレート及び装飾用テンプレートを含み、典型的には、1人又は2人以上の「経験豊富な設計者」により構築される。各テンプレート22は典型的には、望ましい審美的な効果を生じさせるイメージ要素又は装飾要素の個数、サイズ、及び位置の設計者による選択を含む。装飾用レイヤーは典型的には、1つのテンプレートに従って配置された一組のイメージ要素から形成される回避マスクに合うように1つのスタイルに従って作成される。実施形態によっては、テンプレート仕様は、設計者が好適かつ必要な配置を示すように(例えば、黒のバックグランド上に灰色及び白色で)ラベル付けした表示領域の複数の区域を含む。動的イメージコラージュを生成するための基礎としてテンプレートを使用することにより、表示される出力のルック・アンド・フィールを、特定のイメージ収集体のために専用設計されたものであるように見えるように設計の専門家により生成された新しいコンテンツでリフレッシュすることが可能となる。
テンプレート22の各々毎に、コラージュレイヤー生成手段12は、該テンプレートの複数の区域の各々毎にそれぞれのイメージレイヤーを確認する(図2のブロック28)。このプロセスは典型的には、各レイヤー毎に、それぞれの組をなすイメージ選択基準に従って、それぞれの区域にそれぞれのイメージ要素30を割り当てることを含む。実施形態によっては、各イメージ要素30は典型的には、イメージデータベース32において索引付けされている様々なソースイメージ(例えば、ディジタル写真又はディジタルビデオクリップ)から抽出された複数のイメージ部分(例えば、顔及びその他の際立つ区域)からなる。イメージ要素30は、所定のものとし及びイメージデータベース32に格納することが可能であり、又はソースイメージに関連づけて格納されているメタデータに基づきリアルタイムで生成することが可能である。
一連のフレームにおける各フレーム毎に、コラージュレイヤー生成手段12は、それぞれの組をなすレンダリングパラメータ値を生成する(図2のブロック34)。各組をなすレンダリングパラメータ値は、複数のテンプレートのうちの1つ又は2つ以上とそれぞれの組をなす時間的挙動属性値とについて決定されたそれぞれの組をなすイメージレイヤーに基づいて表示領域内のそれぞれのフレームの構成を指定する。
コラージュレイヤー生成手段12は、組をなすレンダリングパラメータ値を合成イメージレンダラ14へ出力する(図2のブロック36)。該コラージュレイヤー生成手段12により生成された該レンダリングパラメータ値は、ディスプレイ16上に描画される一連のフレーム20を生成するために合成イメージレンダラ14により使用される複数のレイヤー18の構成及び時間的挙動を完全に指定するものである。
図3は、図2の方法に従って動的イメージコラージュを生成するプロセスの一実施形態に伴う様々なデータ要素間の関係を示している。このプロセスにおいて、コラージュレイヤー生成手段12は、一連のテンプレート22(テンプレート1、テンプレート2、...、テンプレートN)を選択する。テンプレート22の各々は、表示領域38内の(図3に複数の楕円で示す)複数の区域のそれぞれの時空間的なレイアウトを指定する。該複数のテンプレートの各々毎に、コラージュレイヤー生成手段12は、複数のイメージ要素30のそれぞれを前記複数の区域に割り当て、及び該テンプレート及びその他の情報に従って、該複数のイメージ要素からそれぞれの組をなす複数のレイヤー(イメージレイヤーセット1、イメージレイヤーセット2、...、イメージレイヤーセットN)を生成する。各レイヤーは、前記複数の区域のそれぞれに割り当てられた前記複数のイメージ要素30のそれぞれの時空間的挙動を定義する。コラージュレイヤー生成手段12により生成されるレンダリングパラメータ値は、前記イメージレイヤーセットを完全に指定する。合成イメージレンダラ14は、該複数のイメージレイヤーセットの各々から一連のフレームを生成する。
図3に示すように、実施形態によっては、コラージュレイヤー生成手段12により生成されたレンダリングパラメータ値は、前記一連のテンプレート22に従って複数のコンテンツフレームからなる一連のグループ(コンテンツフレームグループ1、コンテンツフレームグループ2、...、コンテンツフレームグループN)を指定する。以下で詳述するように、該コンテンツフレームグループは典型的には、複数の遷移フレーム(図3には図示せず)からなる複数のグループによって分割される。該複数のコンテンツフレームからなる該複数のグループは典型的には、一連の「複数の安定の島(islands of stability)」を形成するよう設計される。該島は典型的には、完全に静的なものではなく、典型的には、それぞれのコンテンツグループの視覚的要素の小さな動きが、見る者の関心を維持するように指定される。各島は、典型的には動的に生成された(以下で説明する)適応型のバックグランド内に表示される一組のイメージ要素30の1つのコラージュである。該イメージ要素30は典型的には、各コラージュに審美的な一貫性を与えるテーマに従って、各テンプレート22毎に選択される。該テーマの一例として、同じ人のイメージ及び友人と一緒にいる特定の人のイメージが挙げられる。
以下で詳述するように、複数のイメージ要素30のうちの1つ又は2つ以上の各々を、それぞれのソースイメージ内のイメージ要素の境界を定めるそれぞれの組をなす事柄、及び該ソースイメージのそれぞれの組をなす1つ又は2つ以上の非写実的変異とに関連づけることが可能である。該事柄は、典型的には非矩形であるが、実施形態によっては矩形となる。複数のイメージ及びマット要素は、定義済みのz順に従って互いに重畳される一連のレイヤーとして合成イメージレンダラ14へ渡される。各レイヤーは、該複数の要素が移動し、拡大縮小し、及びブレンドする態様、及び、アルファマットが適用される態様を決定する、タイミング仕様を有する。これらのパラメータに対する調節のタイミングをプログラミングすることにより、コラージュレイヤー生成手段12は、1つの島から別の島への興味深い遷移を生成することができ、及び安定の島の各々内で連続的かつ循環的な動きを生成することができる。
イメージベースのレイヤーに加えて、該コラージュレイヤー生成手段12の実施形態によっては、複数のイメージ要素の動的な配置に適応するよう設計された芸術的に刺激されるバックグランドを生成する。バックグランドは典型的には多数のレイヤーからなり、該各レイヤーは、該レイヤー自体のz位置、動き、マット、及びタイミングデータ値を有する。これは、絶えず動き及びイメージレイヤーとの重畳及びブレンドを可能にするバックグランドの細部といった効果を可能とする。
図4A及び図4Bは、例示的な動的イメージコラージュにおける異なる安定の島のスクリーンショットを2つ示している。これらのスクリーンショットに示すイメージ要素の選択及びマット処理、芸術的な顔のレンダリング処理、及び全てのバックグランド成分の生成処理は、図2の方法に従って全て自動的に実行されたものである。
IV.動的イメージコラージュ生成手段の例示的な実施形態
A.序論
図5は、コラージュレイヤー生成手段12、合成イメージレンダラ14、ディスプレイ16、及びソースイメージプロセッサ44を含む動的コラージュ生成システム10の一実施形態40を示している。
ソースイメージプロセッサ44は、典型的にはユーザのソース素材を含むソースイメージ46からイメージデータベース32を生成する。該ソースイメージ46は、イメージセンサ(例えば、ディジタルビデオカメラ、ディジタルスチルイメージカメラ、又は光学的スキャナ)によりキャプチャされたオリジナルイメージ(例えば、ビデオフレーム、スチルイメージ、又はスキャンされたイメージ)、又はかかるオリジナルイメージを処理した(例えば、サブサンプリングされ、フィルタリングされ、再フォーマットされ、シーンバランス調整され、又はその他の改善又は変更が加えられた)ものを含む、あらゆるタイプのディジタルイメージに相当するものとすることが可能である。イメージデータベース32を構築するプロセスにおいて、イメージ要素抽出手段44は、ソースイメージ46からメタデータを抽出する。該ソースイメージプロセッサ44により抽出される典型的なタイプのメタデータとして、顔位置、顔識別子、顔特徴点、時間データ(例えば捕捉時間)、非顔特徴データ、区画データ、色分析データ、及び表情情報が挙げられる。実施形態によっては、ソースイメージプロセッサ44は、ソースイメージ46からサブサンプリングしたものからメタデータを抽出することが可能である。
コラージュレイヤー生成手段42は、スケジューラ48、テンプレート充填手段50、マット生成手段52、非写実的変異生成手段54、及びバックグランド生成手段56を含む。スケジューラ48は一連の安定の島を生成する。上述したように、各島は、複数の設計者テンプレート22のそれぞれに従って配置された一組のイメージ要素30のコラージュである。該イメージ要素は、各コラージュに審美的な一貫性を与えるテーマに従ってテンプレート充填手段50により選択される。テーマの一例として、同じ人の写真、及び友人と一緒にいる特定の人の写真が挙げられる。マット生成手段52は、ソースイメージ46のそれぞれを参照するそれぞれの組をなす非矩形マットを生成し、及びイメージ要素30のそれぞれを定義する。前記非写実的変異生成手段54は、オリジナルソースイメージのそれぞれの非写実的変異を生成し、及び該非写実的変異をそれに対応するイメージ要素に関連づける。該マット及び非写実的変異は典型的には、定義済みのz順に従って互いに重畳する一連のレイヤーとして合成イメージレンダラ14へ渡される。各レイヤーは、該要素が動き、拡大縮小し、及びブレンドする態様並びにアルファマットが適用される態様を決定する複数のタイミング仕様を有する。これらのパラメータに対する調節のタイミングをプログラミングすることにより、前記スケジューラは、1つの島から別の島への興味深い遷移を生成し、及び安定の島の各々内で連続的かつ循環的な動きを生成する。これらの遷移は、イメージデータベース32内のメタデータを利用して行うことが可能であり、例えば、現在のコラージュ内の1つのイメージ要素の特定の顔へズームインし、その目を新しいコラージュ内の異なるイメージ要素の顔の目と位置合わせし、1つの顔を別の顔とブレンドし、次いでその新しい顔を新しいコラージュ内の所定位置に移動することが可能である。
バックグランド生成手段56は、芸術的に刺激される複数のバックグランドを生成し、該バックグランドはイメージ要素の動的な配置に適応するよう設計される。バックグランドは典型的には多数のレイヤーからなり、該各レイヤーは、該レイヤー自体のz位置、動き、マット、及びタイミングデータ値を有する。これは、絶えず動き及びイメージレイヤーとの重畳及びブレンドを可能にするバックグランドの細部といった効果を可能とする。実施形態によっては、バックグランド生成手段56は、現在の安定の島のための回避マップを使用して、イメージ要素の重要な領域(例えば顔)が動的なイメージコラージュの提示中に見えなくならないことを確実にする。
合成イメージレンダラ14は、スケジューラ48により提供されるレイヤー仕様を使用してディスプレイ16上にリアルタイムで描画されるフレームを生成する。実施形態によっては、合成イメージレンダラ14は、レイヤー組み合わせプロセスをサポートし及び各レイヤーの特徴を時間の関数として指定することを可能にする市販のレンダリングシステム(例えば、Microsoft Windows(登録商標)オペレーティングシステムにおいて利用可能なDirectX(登録商標)APIといったAPIを介してインタフェイスされるビデオカード又はグラフィクスカード)により実施される。それら特徴には、サイズ、回転、移動、z順、及び透明度が含まれる。これらの実施形態では、該レンダリングシステムのグラフィクス能力は、多数のイメージレイヤーのリアルタイムの動き、拡大縮小、ブレンド、及びマット処理を高いレンダリング速度(例えば、30フレーム/秒又はそれ以上)で達成することができるものである。
実施形態によっては、合成イメージレンダラ14は、2つの形態のユーザ対話に応答するものとなる。第1の形態の対話は、ディスプレイ16上で表示されている動的イメージコラージュが任意の時点で停止することを可能にする小さな一組のユーザコマンドを提供するユーザインタフェイスの使用を伴うものである。該ユーザインタフェイスは、見る者が、特定のフレームを保存し又はプリントする(場合によっては一層高解像度で再描画する)ために、該特定の1フレームを探し出すべく一連のフレームを前後に1ステップずつ移動することを可能にする。第2の形態の対話は、カメラと、観衆内の最も大きな顔のサイズをフィードバックするリアルタイム顔検出手段との使用を伴うものである。該レンダラは、これに応じて、例えば、a)顔が画面に近づいた際にレンダリング速度を低下させて、見る者の注意を引いたフレームに該見る者が一層注目することが可能となるようにすること、b)以前に指定された「主要な」写真のサイズをディスプレイ上で拡大すること、及びc)該主要な写真を操作されたものからオリジナルへとブレンドさせることが可能である。これらの実施形態の更なる構成及び動作に関する詳細については、本願と同日に出願された「SYSTEM AND METHOD FOR DYNAMIC GENERATION OF MULTIMEDIA CONTENT」[代理人整理番号No.200802868-1] と題する米国出願に見い出すことができる。
B.時空間的テンプレート
時空間的テンプレート22は、コラージュレイアウト、イメージ要素選択、非写実的変異生成の選択、及びバックグランド設計を含む、動的イメージコラージュ生成プロセスの多数の特徴を制御する自動設計知識をカプセル化したものである。
テンプレートは、あらゆる方法で指定することが可能である。本書に添付する付録は、例示的なXML(eXtended Markup Language)テンプレート仕様を含むものである。該例示的なテンプレート仕様は一組の区域を定義し、その各区域は1つ又は2つ以上のイメージ要素を含む。各区域の定義は、許容される顔の数、許容される顔サイズの範囲、及び場合によってはそれらの顔の許容可能な姿勢(ipr=「平面回転内」(in plan rotation))に関する制約を含む。例えば、idmatch要素は、指定された区域について、他の区域で許容される識別子に制約があることを示す。「match」の子は、該matchの副区域がidmatch区域内で表現される個体を含まなければならないことを示す。「nomatch」の子は、matchの子区域内に個体が存在しないことがidmatch区域内のあらゆる個体に一致し得ることを示す。「left」パラメータは、一区域に関する幅×高さバウンディングボックスの最も左側の境界を指定する。「top」パラメータは、一区域に関する幅×高さバウンディングボックスの最も上側の境界を指定する。「width」は、一区域に適した拡大又は縮小されたイメージ要素の許容可能な最大幅を指定する。「hight」は、一区域に適した拡大又は縮小されたイメージ要素の許容可能な最大高さを指定する。「count」パラメータは、一区域内に許容される顔の数を指定する。「radius」パラメータは、一区域内に許容される許容可能顔半径の範囲を指定する。「ipr」パラメータは、許容可能な姿勢角度の範囲を指定する。実施形態によっては、一区域内で許容されるポートレート姿勢に対する横顔の範囲を指定する「hoop」(="horizontal out of plane" rotation:平面回転外の水平)パラメータを更に含む。
付録に含まれる例示的なテンプレート仕様の最後にある「configs」要素は、テンプレートで定義されている区域のサブセットからなる1つ又は2つ以上の設定要素を含む。該設定要素は、その特定の設定でアクティブにされる区域を指定し、及び区域間要件を強制する。
図6を参照する。全体的な動的イメージコラージュ生成体験は、一連60の時空間的テンプレート22(テンプレート1、テンプレート2、...、テンプレートN-1、テンプレートN)、及び該一連60のテンプレートをリンクさせる遷移プラン(遷移1→2、遷移2→3、...、遷移N-1→N)の選択により定義される。該一連のテンプレートは、経験設計者が作成することを望む経験のタイプ(例えば、語られるべき物語)に基づいて該設計者が指定することができる。代替的に、テンプレートの選択は、少なくとも部分的にソースイメージ46の自動分析により行うことが可能である。
上述したように、動的コラージュ経験は一連のグループをなすフレームから構成される。典型的な実施形態では、複数のコンテンツフレームグループが複数の遷移フレームグループにより分割され、この場合、1コンテンツフレームグループ内の各フレームは、そのコンテンツグループに属する複数のイメージレイヤーを組み合わせることによりレンダリングされ、及び1遷移フレームグループ内の各フレームは、隣接するコンテンツフレームグループからのレイヤーを組み合わせることによりレンダリングされる。コンテンツフレームグループは、イメージ要素レイヤー及び装飾レイヤーを含むことができる。
1コンテンツフレームグループ内の複数のイメージ要素レイヤーは各区域の時空間的なレイアウトを指定するそれぞれのテンプレート22により定義され、該各区域は、イメージ要素選択基準とそれぞれの組をなす1つ又は2つ以上の時間的挙動属性値とに関連づけられ、複数のイメージ要素は、それぞれの組をなすイメージ要素選択基準に従って複数の区域に割り当てられる。各区域は典型的には、独立した動き及び組み合わせが可能となるようにそれ自体のレイヤーに割り当てられる。イメージ要素が大きなソースイメージの一部である場合には、ソースイメージ全体は典型的には、前記レイヤー内にロードされ、及び必要なイメージ要素のみを露出させるよう該レイヤーにマスクが関連づけられる。これにより、レンダリングエンジンが、マスクを不透明に適用する程度を決定するパラメータを変更することにより、イメージ要素のみを示す状態とソースイメージ全体を示す状態との間で遷移させることが可能となる。
装飾レイヤーはグラフィクス/イメージオブジェクトを有しており、該グラフィクス/イメージオブジェクトは、スタイルテンプレートとフォアグラウンドレイヤーに割り当てられているイメージ要素とに従って該装飾レイヤーに割り当てられたものである。装飾オブジェクトの色は、イメージ要素レイヤーを引き立たせるよう選択することが可能であり、該装飾オブジェクトは、典型的には回避マップに基づいて、イメージ要素との視覚的な衝突を回避するよう位置決めすることが可能である。
遷移フレームグループは、遷移プランに従って隣接するコンテンツフレームグループのレイヤーから描画される。実施形態によっては、両方のコンテンツフレームグループのレイヤーがアクティブになり、前記プランは、次第に消えていくときの旧いレイヤーの動き及び透明度の属性と、次第に姿を現すときの新しいレイヤーの動き及び透明度の属性とを指定する。
実施形態によっては、一連60のテンプレート及び遷移はランダムに生成される。該遷移は先ず、次の島が同じテンプレートを使用するか異なるテンプレートを使用するか(及び次の島が同じイメージ要素を使用するか異なるイメージ要素を使用するか)を決定する際に選択される。遷移は、一組の考え得る遷移の中から、重み付けされたランダムな態様でランダムに選択することが可能である。例示的な一実施形態では、3つの考え得る遷移は次の通りである。
1.「装飾レイヤー変化」:テンプレート及びイメージ要素が同じで装飾レイヤーが異なる。旧い装飾レイヤーは新しい装飾レイヤーへとブレンドされる(イメージ要素は不変)。
2.「写真充填」:異なるテンプレート、イメージ要素、及び装飾レイヤー。好適なイメージ要素(最も大きな顔を有するイメージ要素)を含むソースイメージは、(例えば、そのマスクを徐々に透明にすることにより)その全体を露出させ、及び表示画面の殆どを満たすよう移動する。該ソースイメージは次いで、新しい島のための好適なイメージ要素を含むマスクされていないソースイメージへとブレンドされる。旧い装飾レイヤーは新しい装飾レイヤー(この段階では完全なイメージ要素により殆ど覆い隠されている)へとブレンドされる。新しい好適なイメージ要素のためのマスクは、そのソースイメージの残り部分を隠すように徐々に適用される。複数の新しいイメージ要素は(該各イメージ要素がランダムに選択された一組の考え得る進入運動のうちの1つを使用して)所定位置へと移動する。
3.「顔充填」:これは、完全なソースイメージを露出させない点を除き、「写真充填」と同様のものである。完全なソースイメージを露出させるのではなく、好適なイメージ要素の顔が、画面を殆ど満たすよう移動され拡大又は縮小される。該新しい好適なイメージ要素の顔は(例えば、目の位置を一致させることにより)旧い顔と位置合わせされ、該旧い顔が該新しい顔へとブレンドされる。実施形態によっては、旧い顔は、単純にブレンドされるのではなく、新しい顔へとモーフィングされる。かかる実施形態では、モーフィングは典型的には、多数の重要なポイント(例えば、目、口、及び顎のライン)が位置合わせされるようにブレンド処理にイメージの漸進的な空間的な歪みを組み合わせることを含むものである。
実施形態によっては、異なるテンプレートを選択しなければならない場合には必ず、次のテンプレートは前記一組の考え得るテンプレートのうち該現在のテンプレートを除いた何れかとすることができる。
実施形態によっては、1つのプロセス又はスクリプトが、複数のテンプレート選択プロセスを制御する。かかる一実施形態では、1つのプロセスが、ソースイメージの収集体を解析して、一連のイメージ要素の組からなる一連の「物語」を決定する。該イメージ要素の各組は、該イメージの内容に基づいて複数のテンプレート22のそれぞれに割り当てられる。場合によっては、テンプレートは、選択されたイメージ要素に合うように作成される。
C.マット生成手段
上述のように、イメージ要素は典型的には、ソースイメージの際立つ(又は興味深い)特徴を捕らえている該ソースイメージの一部(又は断片)である。際立つ特徴の例として、(好適には視覚的に魅力的な態様で現れる)個人のグループ化、際立つフォアグラウンドオブジェクト、又はバックグランド光景が挙げられる。本例示の実施形態では、イメージ要素は一般的な切り取り境界を用いて決定され、該切り取り境界は、非矩形であり且つ区分的に線形でないものとすることが可能である。このようにして、イメージ要素は、見ていて興味深いものとなり、及び最も視覚的に魅力的な態様で主題を封入したものとなる。実際に、自然の境界(例えば、顔の自然な形状)を有するイメージ要素の使用は、完全なソースイメージの普通の矩形の組み合わせよりも興味深いものとなる。
実施形態によっては、イメージ要素は、ソースイメージ46から自動的に抽出されたメタデータに基づいてソースイメージプロセッサ44(図5)により自動的に生成される。該メタデータは、場所、姿勢、サイズ、性別、表現、民族性、イメージ内に顔が現れている人の身元、顔以外の際立つオブジェクトの場所及びサイズに関する情報、色情報、及びテクスチャ情報といった情報を含むことができる。
本例示の実施形態では、イメージ要素は、ソースイメージ46中の顔の位置及びサイズに基づいて抽出される。このプロセスにおいて、一組の顔位置と、その複数の顔位置が組み合わさせる(又はクラスタ化(集団化)される)態様を決定するルールとから、イメージ要素の境界が決定される。実施形態によっては、これらのルールは以下の事項を必要とする。
1.何れかの2つの顔が特定のしきい値よりも近い場合には、両方の顔が1つのイメージ要素内に含まれていなければならず、又は何れの顔も含めることができない。
2.所与のイメージ要素内の何れかの顔が他の何れかの顔から特定のしきい値よりも大きく離れている場合には、該顔を該イメージ要素内に含めることができない。
3.何れかの顔が該イメージの境界に近すぎる場合には、該顔を1つのイメージ要素内に含めることが全くできない。
第1の条件は、イメージ要素内に半分の顔が現れること又は顔の周囲での不自然に余裕のないトリミングを禁止するものである。第2の条件は、1グループから離れて1つの顔を有する顔を基本とするイメージ要素を禁止するものである。第3の条件は、イメージの境界に起因する不自然な顔のトリミングを有するイメージ要素を禁止するものである。別の実施形態では、その用途の要件に応じて異なる又は他の条件を課すことが可能である。
これらの実施形態では、イメージ要素に対して顔を割り当てるプロセスは、1つの顔と1つのイメージ要素との間の「距離」に基づく複数の顔位置のクラスタ化を伴う。例示的な距離の基準は、次の1つ又は2つ以上を含む:イメージ要素内の顔とそれに最も近い顔との間の距離、イメージ要素内の顔とそれから最も遠い顔との間の距離、及び顔とそれに最も近いイメージ境界との間の距離。これらの実施形態によっては、該クラスタ化プロセスは、全ての距離対を比較することによりグリーディな(greedy)態様で実行される。異なる複数のイメージ要素は重複することが可能であり、それらは同じ顔を含むことが可能である、ということに留意されたい。
図7は、ソースイメージ46からイメージ要素を抽出する例示的な実施形態を示している。
図7の実施形態によれば、マット生成手段52は、ソースイメージ内の全ての顔のサイズ及び位置を判定する(図7のブロック62)。
マット生成手段52は、ソースイメージの縁部に近すぎる顔を全て除去する(図7のブロック64)。
マット生成手段52は、ソースイメージ内の残っている顔の周囲のイメージ要素を生成する(図7のブロック66)。このプロセスで、マット生成手段52は、イメージ要素のプールを「空」に設定して、該プールに各顔を1つずつ追加する。マット生成手段52は次いで、該プール内の各イメージ要素に対する顔の追加を試行する。マット生成手段52は、顔パラメータ及び随意選択的な何らかのユーザ設定パラメータ(例えば、肩の高さ及び肩幅の量)に基づいて、検出された顔の周囲の最小バウンディングボックスを計算することにより、イメージ要素に対して顔を追加する。該最小バウンディングボックスがイメージ境界の外側に含まれる場合には、該追加が失敗して(顔が境界に近すぎる)、「失敗」フラグが返される。前記最小バウンディングボックスがイメージ境界の外側に含まれない場合には、該最小バウンディングボックスと既存のイメージ要素バウンディングボックス(複数の最小顔バウンディングボックスの全てを取り囲む最小ボックス)との間の重複が計算される。該重複の度合いが所定のしきい値(例えば10%)を超える場合には、該顔が現在のイメージ要素に追加されて、該イメージ要素バウンディングボックスが調節される。「成功」フラグが返されて、この顔についてそれ以上のプロセスは行われない。前記重複の度合いが前記しきい値未満である場合には、「失敗」フラグが返され、現在の顔が次のイメージ要素に渡されてその追加が試行される。該顔が何れかのイメージ要素に成功裏に追加されなかった場合には、その顔のみを含む新しいイメージ要素が生成される(このプロセスは、該顔がイメージ境界に近すぎる場合には失敗し得るものであり、その場合にはイメージ要素は生成されない、ということに留意されたい)。
マット生成手段52は、次いで、各イメージ要素をプール中の一つおきのイメージ要素とマージする。このプロセスにおいて、各イメージ要素が、一つおきの他のイメージ要素と比較されて、複数のイメージ要素バウンディングボックスが10%を超えて重複しているか否かが確認される(図7のブロック68)。十分な重複が見いだされた場合には(図7のブロック68)、2つのイメージ要素が単一のイメージ要素へとマージされて、該2つのオリジナルが削除され(図7のブロック70)、十分な重複が見いだされなかった場合には、該2つのイメージ要素はマージされない(図7のブロック72)。イメージ要素のプールが変化した場合には(図7のブロック74)該マージプロセスが繰り返され、イメージ要素のプールが変化しない場合には該プロセスは終了する(図7のブロック76)。
一組の位置の収集が完了すると、イメージ要素境界が生成される。これは、イメージからの一層多くのメタデータを必要とし、特定の位置を伴うものとなる。例えば、良好なイメージ要素境界は、該イメージ内の各顔から特定の距離公差内(近すぎず遠すぎず)にあるべきであり、何らかの滑らかさの制約を受けるイメージ要素の主題(顔)の自然な曲線を模倣すべきであり、及び暗い領域又は変化の少ないバックグランドといったイメージの面白くない部分の通過を試みるべきである。これらの制約は、顔データ(必要に応じて肩を入れることができるように顔の向きといったことを含む)をテクスチャマップ(及びおそらくは何らかの色情報)と共に使用してイメージの「変化の少ない」領域を判定することにより満たすことができる。
場合によっては、与えられる制約は、イメージ要素に割り当てられる位置を変化させ得るものとなる。例えば、顔の周りの極めて余裕のないトリミングが必要とされる場合には、共に非常に近接している顔のみが1つのイメージ要素内に入ることになる。
イメージ要素境界が決定された後、マット生成手段52は、それぞれの回避マスクピースを各イメージ要素に関連づける。各回避マスクピースは、目視可能となるイメージ要素の部分を示し、及び該部分を回避することがバックグランド要素にとって如何に重要であるかを示すものである。実施形態によっては、その回避の重要性は、イメージ要素の各領域を3つのグレー値(「白」は、それがラベル付けされた領域が装飾要素によって覆い隠されることは決してあり得ないことを意味し、「灰」は、それがラベル付けされた領域が幾つかの装飾要素によって覆い隠され得ることを意味し、「黒」は、それがラベル付けされた領域があらゆる装飾要素によって覆い隠され得ることを意味する)のうちの1つでラベル付けすることにより示される。
D.非写実的的変異生成手段
非写実的変異生成手段54は、様々な異なる非写実的レンダリング技術(イメージを、例えば絵画又はその他の芸術様式を示唆する様式へと変換するイメージ処理技術(例えば、点画処理、水彩画処理、スタイライズ処理、及びモザイク処理)を含む)の何れかを使用してソースイメージの非写実的変異を生成する。
E.バックグランド生成手段
バックグランド生成手段56は、安定の島の非イメージ要素(又は装飾)レイヤーの生成を責務とするものである。バックグランド生成手段56は典型的には、イメージ要素の際立つ部分を覆い隠すことのない装飾レイヤーを生成する。
実施形態によっては、バックグランド生成手段56は、イメージ要素レイヤーがz順で装飾レイヤーの上に位置することを確実にすることにより、装飾的な特徴でイメージ要素が覆い隠されることを回避する。
他の実施形態では、バックグランド生成手段56は、イメージ要素レイヤーと装飾レイヤーとを交互配置して一層魅力的な統合された構成を形成する。これらの実施形態では、幾つかのバックグランド要素は、z順でイメージ要素の上に配置することができるが、その配置は、該イメージ要素の最も重要な部分が覆い隠されることがないように行われる。例えば、バックグランド中の薄い色の線は、イメージ要素中の人の肩の部分を覆い隠すことは許されるが、該人の顔を覆い隠すことは許されない。これは、z順でイメージ要素の下に配置された場合に該イメージ要素により覆い隠されることになる小さな詳細バックグランドオブジェクトの場合に特に重要となる。同様に、該詳細バックグランドオブジェクトがz順でイメージ要素上に配置された場合に該詳細バックグランドオブジェクトが該イメージ要素の重要部分を覆い隠すのを阻止する必要がある。
実施形態によっては、バックグランド生成手段56は、装飾レイヤーの生成に「回避マップ」を使用する。該回避マップは典型的には、テンプレート充填手段50により選択されたイメージ要素の全てからの回避マップピースを組み合わせることにより生成される。このプロセスにおいて、各回避マップピースは、それに関連づけられたイメージ要素が合成イメージで使用されることになる態様を反映するように、回転され、拡大縮小され、及び移動される。該回避マップは典型的には、最終的な合成イメージと同じサイズのグレースケールイメージにより実施され、この場合、非黒領域は、合成イメージ内でイメージ要素が占有することになる場所を示す。実施形態によっては、回避マップは、二値の黒白イメージから構成される。別の実施形態では、回避マップは更に、イメージ要素により占有されるが部分的に覆い隠され得る領域を表す中域グレースケール値を含む。実施形態によっては、該グレースケール値の大きさが、特定画素を覆い隠す相対的な犠牲を表すものとなる。
図8は、回避マップ80の例示的な実施形態を示しており、その黒領域(クロスハッチングで示す)は、イメージ要素が存在しない場所に対応し、白領域は、如何なる装飾的な特徴によっても覆い隠され得ない場所に対応し、灰領域は、装飾的な特徴により部分的に覆い隠され得る場所に対応する(この場合、許容可能な掩蔽レベルは、グレースケール値の暗さと共に増大する)。
図9は、回避マップ中の少なくとも部分的にイメージ要素が存在しないものと識別された場所にバックグランド生成手段56が装飾レイヤーの装飾要素を配置する方法の一実施形態を示している。
バックグランド生成手段56は、バックグランド用の一組の考え得るスタイルから1つのスタイルを選択する(図9のブロック82)。実施形態によっては、該スタイルはランダムに選択される。別の実施形態では、該スタイルは、指定されたユーザプリファレンスに基づいて、又はテンプレート中の設計者の仕様により、選択することが可能である。
バックグランド生成手段56は、バックグランド用の支配的な色を選択する(図9のブロック84)。実施形態によっては、該色はランダムに選択される。別の実施形態では、該色は、イメージ要素内の色と一致するように選択される。
バックグランド生成手段56は、バックグランド用の背景幕を作成する(図9のブロック86)。該背景幕は、z順で最も下に位置するレイヤーであり、合成イメージ中に未充填の領域が存在しないことを確実にするものである。実施形態によっては、該背景幕は、選択された支配的な色84から導出された変化の少ない色に設定される。代替的に、背景幕は、複数の利用可能なスタイル82の各々毎に定義することが可能であり、この場合、該スタイル82は典型的には、該背景幕を覆う一組の考え得るテクスチャのうちの1つからなる。テクスチャは、動的に計算することが可能であり、又はイメージからロードすることが可能である。
バックグランド生成手段56は、一組の装飾要素を追加して一組の装飾レイヤー88を生成する(図9のブロック90)。該装飾要素は、選択されたスタイル82に基づいて選択され、及び回避マップ92に基づいて装飾レイヤー90内に配置される。装飾要素の例が、バックグランド形状及び詳細オブジェクトである。
バックグランド形状は、選択されたスタイル82と共に使用するための一組の利用可能な形状から選択される。使用すべき形状の個数は、各バックグランドスタイル82毎に異なる。追加された各形状は、バックグランド中に高精度の外観を確定するよう拡大縮小され、回転され、及び移動される。拡大縮小、回転、及び移動のためのパラメータは、各スタイル毎に別に決定され、典型的には、各選択は、該スタイルについて定義された複数の考え得る値の何らかの範囲内から選択された重み付けされたランダム値となる。各形状は、カラー化されたテクスチャで満たされる。該テクスチャは、一組の考え得るテクスチャから選択される。該カラー化の色は、前記支配的な色から導出される。該導出される色は、例えば、明るい陰または暗い影、調和した色相、対照的な色相等とすることが可能である。各バックグランド形状は典型的には、別個のレイヤーとして定義され、バックグランドスタイル82により決定される際に各形状に周期的な運動の定義を潜在的に与えることが可能となる。これにより、合成イメージレンダラ14が、該形状のパラメータを、該形状がディスプレイ16上に表示される間に周期的に変化させることが可能となる。周期的に変化可能なパラメータとして、位置、回転、強度、拡大縮小率が挙げられる。実施形態によっては、バックグランド生成手段56は、一定のz順設定を有すると共に独立した周期運動を有さない多数の形状が存在する場合に、単一のイメージレイヤーまたは背景幕レイヤー上に描画される多数の形状を描画する。
バックグランド詳細オブジェクトは典型的には、線、曲線、テキストといった、複数の形状及び小さなオブジェクトを含む。実施形態によっては、選択されたバックグランドスタイル82は、イメージ要素上にz順で描画されるべきバックグランド詳細を定義する。この場合には、バックグランド詳細オブジェクトは、回避マップの白領域を覆い隠さないように配置される。実施形態によっては、バックグランドスタイル82は、詳細がz順でイメージ要素の下に描画される場合であっても該イメージ要素を回避するように、バックグランド詳細オブジェクトの配置を指定する。実施形態によっては、バックグランド生成手段56は、回避マップ92に基づいてバックグランド詳細オブジェクトを配置するために、生成及びテスト手法を使用する。このプロセスでは、バックグランド生成手段56は、回避マップ90に対する既知の関係(典型的には移動)を用いて一時イメージ内に詳細オブジェクトを生成することにより、潜在的な詳細オブジェクトを定義する。次いで、該詳細オブジェクトが占有する画素が回避マップ90に対してテストされる。提案された形状は、それが何れかの白画素を覆い隠す場合には拒否される。スタイル及び詳細オブジェクトの定義に応じて、詳細オブジェクトは、それが回避マップ90の灰領域しか覆い隠さない場合には容認することが可能である。バックグランド形状の場合と同様に、各バックグランド詳細オブジェクトには、選択されたバックグランドスタイル82の実装に従って、所与の周期運動を与えることが可能である。場合によっては、多数の詳細オブジェクトが互いに重複するのを防止することが望ましい。これは、詳細オブジェクトの形状を回避マップ上に白で表現することにより達成することができる。その後、該回避マップを使用することにより、それまでに配置されたあらゆるバックグランド詳細オブジェクトが回避されることになる。
F.テンプレート充填手段
テンプレート充填手段50は、予め組み込まれているイメージ要素の収集体の中から特定のテンプレート(レイアウト)仕様に適したイメージ要素を自動的に選択する。該テンプレート充填手段50は、特定のテンプレートのインスタンスを作成するよう要求されると、テンプレート制約を満足させることができる一組のイメージ要素を求めてイメージ要素のデータベースを検索する。実施形態によっては、テンプレート充填手段50は、テンプレートのインスタンス作成の全体的な流れを制御する(例えば、一連のテンプレートについて特定の時刻またはイベントからのみイメージ要素を選択する、又は提示されたイメージがリフレッシュされることを確実にする)ことを目的として、以前のインスタンス作成の記録を保持する。
各テンプレート22は典型的には、イメージ要素が該テンプレート内に適合するよう拡大縮小され移動された後に該イメージ要素に必要とされるパラメータを指定する。例えば、添付する付録で提供される例示的なテンプレート仕様における「半径」パラメータは、親区域内のイメージ要素にとって許容可能な顔の半径の範囲を示している。半径の制約を含む区域のためのイメージ要素を見い出すために、テンプレート充填手段50は、適当な個数の顔を有するあらゆるイメージ要素の拡大縮小を行って、該イメージ要素内の全ての顔が前記半径の範囲の仕様を満たすようにする。該イメージ要素内の範囲が大きすぎる場合には、必要とされる拡大縮小を行うことができず、この場合、該イメージ要素は指定された区域に適した候補ではない。拡大縮小が行われると、バウンディングボックスパラメータ及び回転(ipr)パラメータについて比較を行うことが可能となる。実施形態によっては、イメージ要素は、一区域の指定された境界内に正確に適合する必要がなく、該イメージ要素は、拡大縮小が行われた後に該イメージ要素にとって許容可能な最大の幅及び高さを有する区域内の中央に配置される。
テンプレート充填手段50が、一組のイメージ要素を1つのテンプレートの複数の区域に割り当てた後、該テンプレートは、特定の複数のイメージ要素の特定の配置である「インスタンス化テンプレート」であると言われる。スケジューラ48によりスケジューリングされて合成イメージレンダラ14によりディスプレイ16上に描画されるのが、インスタンス化テンプレートである。1つのインスタンス化テンプレートは典型的には、一組のイメージ要素及び表示領域内におけるそれらの場所(すなわち、イメージ要素の中心位置、回転角度、及び拡大縮小率)によって指定される。該場所は典型的には、ディスプレイ16の座標系(典型的にはディスプレイ16のアスペクト比への汎用座標系の拡大縮小を伴う)で指定される。インスタンス化テンプレートは、各イメージ要素毎に「ホーム」場所を指定するが、実際に描画されるイメージ要素の位置は、そのレイヤーに属する入出挙動と、安定の島の存続期間中に与えられる周期運動とに従って時間と共に変動する。このため、それらは一般には全て見えるよう配置されるが、複数のイメージ要素レイヤーがレイヤー運動の期間にわたって重複する可能性は十分にある。
G.スケジューラ及び合成イメージレンダラ
スケジューラ48は、合成イメージレンダラ14によりディスプレイ16上に描画される一連のレイヤーを生成する。
上述のように、各イメージ要素は典型的には、相対的なz順の場所及び運動パターンが関連づけられたそれ自体のレイヤー上に描画される。レイヤーは以下の特徴を有する。
a)レイヤーは、合成イメージレンダラ14が移動/拡大縮小/回転/ブレンドを別個に行うことができる唯一の単位である。
b)レイヤーは、特定のz順の場所に存在する。
c)レイヤーは、時間と共に変動し得る大域ブレンド値を有する。
d)1つのレイヤーは、ソースイメージ全体、イメージ要素を構成する部分を除きソースイメージ全体を隠すために通常適用されるマスクイメージ、及びソースイメージのゼロ又はそれ以上の変異体から構成される。該変異は、非写実的レンダリング又はその他のイメージ処理技術を使用してソースイメージを変化させることにより生成することが可能である。ソースイメージ、マスクイメージ、及びあらゆる変異イメージを多数の方法で組み合わせて、イメージ全体を露出させ/隠し、及びオリジナルイメージと操作後のイメージとの間でブレンドすることが可能である。
イメージ要素のレイヤーに加えて、バックグランド要素の更なるレイヤーが存在する。インスタンス化テンプレートから回避マップが生成されることを除き、テンプレート仕様がバックグランドレイヤーに直接影響を与えることはない。該回避マップは、上述のように、バックグランド生成プロセス中に使用される。
安定の島のために使用される通常のレイヤーに加えて、所望の遷移効果を生成するために一時レイヤーを導入することが必要となる場合がある。一時レイヤーとは、基本的には既存のレイヤー(それ自体の入出挙動を有するもの)のクローン(複製)である。該一時レイヤーは、「z順で上下に移動する」ように見える特定のレイヤーの効果をスケジューラが生成することを可能にし、これは既述のレイヤー機構では不可能である。この効果は、宛先z順位置におけるレイヤーを複製して、これに徐々にフェードインすると同時に、旧z順位置におけるレイヤーをフェードアウトし、次いで該旧レイヤーを削除することにより、達成することができる。
スケジューラからレンダラへ渡されるレイヤーは、複数の群をなすかなり複雑な挙動であり、該挙動は以下の成分を含む。
a)開始及び終了時刻:これは、レイヤーがアクティブである期間(すなわち、該レイヤーが表示に影響を与え得るとき)を定義する。
b)z順:これは、レイヤーが表示に適用され、ひいては該レイヤーが他のレイヤーにより覆われる順序を決定する整数値である。
c)随意選択的なアルファマップを有する一次イメージ参照:これは、レイヤー内に表示されるイメージを識別する。イメージは、テクスチャメモリ内にプリロードされている。1つのレイヤーにより必要とされる全てのイメージは、該レイヤーの開始時刻に達する前にロードされる。イメージは、該イメージを参照するレイヤーが存在しない場合にテクスチャメモリから削除される。
d)随意選択的なアルファマップを有する随意選択的な一組をなす1つ又は2つ以上の補助イメージ参照:各補助イメージは典型的には、前記一次イメージとブレンドすることができる一次イメージの変形版である。
e)経時的な大域透明機能:この機能は典型的には、レイヤーのフェードイン・フェードアウトに使用される。
f)経時的なアルファマップ適用ファクタ機能:この機能は、アルファマップが適用される態様を決定する。アルファマップ適用ファクタが1.0である場合には、アルファマップを完全に使用して、アルファマップ値が0である画素を透明にさせる。アルファマップ適用ファクタが0.0である場合には、アルファマップは無視される。0.0と1.0との間の値は、アルファマップを徐々に機能させる。
g)経時的な一次イメージ及び二次イメージ間のブレンド機能:この機能は、レイヤーが一次イメージ、二次イメージ、又はそれら2つをブレンドしたものを示すかどうかを判定する。
h)経時的な基本運動機能:この機能は、イメージテクスチャが画面上に位置決めされる態様を決定する。実施形態によっては、これは、2D変換、拡大縮小、及び回転を指定する。
i)経時的な周期挙動機能:この機能は、根底にある運動機能、ブレンド機能、及びアルファ機能に対する周期的な調節を生成する。
j)アニメイメージシーケンスタイミング:この機構は、1つのイメージを、イメージシーケンスから形成される連続的なアニメーションとして扱うことを可能にする。アニメーションを有するレイヤーが表示されているとき、レンダラは、現在の描画時間に従って該シーケンス中のイメージを周期的に繰り返す。
k)ビデオソースイメージの場合、ビデオが再生を開始するときを決定するタイミングパラメータは、レイヤーの開始及び終了に対するものである。
従来のスライドショー遷移は、イメージの内容とは無関係の様々な効果(例えば、フェード及びワイプ)を用いて単一イメージから単一イメージへと変化する。これとは対照的に、動的イメージコラージュ生成システムは、より精巧な内容に依存する遷移を用いることが可能である。例えば、遷移は、メディアデータベース内のメタデータを利用することが可能であり、例えば、現在のコラージュ内の特定の写真内の特定の顔にズームインすることが可能であり、この際、その目を、新しいコラージュ内の異なる写真内の顔の目と位置合わせしてその一方の顔から他方の顔へとブレンドし、次いで該新しいコラージュ内の所定位置へ該新しい顔を移動する。実施形態によっては、旧い島で使用されている複数のイメージのうちの1つにおける1つの顔の目と、新しい島で使用されている複数のイメージのうちの1つにおける1つの顔の目との位置合わせに依存した遷移を実施する。これらの実施形態では、スケジューラ48は、多数の位置合わせされたレイヤーからの遷移を構成する。
合成イメージレンダラ14及びスケジューラ48は、滑らかに変化し連続的に変動する表示を生成し表示するように複雑な態様で相互に作用する。該スケジューラは、以下の操作を含む操作を責務とするものである。
・次の「安定の島」のためのイメージの配置の選択
・写真の読み出し及び圧縮解除
・芸術的なレンダリングイメージ操作の適用
・次の「安定の島」のためのイメージの配置の選択
・複数のイメージの配置に適したバックグランドレイヤーの生成
・テクスチャメモリ内への全てのイメージの収集体のロード
これら操作のうちの幾つかは計算コストの高いものである。
合成イメージレンダラ14は、そのフレーム時間におけるz順でアクティブなレイヤーの各々を描画することにより、一連の表示フレームを生成する。各フレーム毎に、現在のフレーム時間に基づいて各アクティブレイヤーが評価されて、配置、拡大縮小、回転、ブレンド、アルファ等のための一組のイメージ描画パラメータが生成される。実施形態によっては、これらをグラフィクスハードウェアにより使用してイメージを非常に効率的に描画することが可能である。この意味で「評価」とは、「基本的な」挙動を任意の「周期的な」変動で変調させるレイヤー内の複数の時間的な機能の各々を評価することを意味している。合成イメージレンダラ14はまた、1つの島が次の島へと遷移する態様を決定することを責務とする。しかし、該合成イメージレンダラ14は、次の島の構成要素の構築及びそのテクスチャメモリへのロードが完了するまで(これは予測不能な時間量を要する)、1つの島から次の島へ移動することができない。このため、実施形態によっては、複数のレイヤーは、それらが最初にディスプレイ上に現れた際に判定することができない所与の長さの時間にわたって描画される。
実施形態によっては、合成イメージレンダラ14により完全に独立して処理される一連のレイヤーをスケジューラ48に生成させることにより、不確定なスケジューリングの問題を克服する。しかし、この方法を用いる場合には、島N+1のためのデータのロードが完了するまで島Nを定義することができなくなる。これは、島N+1が表示を開始することができるとき、ひいては島Nを停止させることができるときが分かるのが、その時点のみであるからである。この方法は、システムの不愉快な遅延を導入し、及び追加のメモリを必要とするものとなる。更に、この方法は、島N+1のためのデータが利用可能であったとしても、島N+2のためのデータがロードされるまで島N+1のためのタイミングを確立することができない、という可能性に依然として通じるものとなる。これは、島Nが終了するようスケジューリングされた時点で島N+1が開始するのを妨げ得るものである。
別の実施形態は、複数のレイヤーがアクティブに描画されている間に該レイヤーの終了時間を変更することを可能にすることにより、不確定なスケジューリングの問題を克服する。特に、島Nのデータがロードされた際に即座に該島Nの描画を開始することができるように、レイヤーの終了時間を最初に無限(又は将来の極めて長い時間)に設定することを可能にする。スケジューラは、島N+1のために必要なデータ全てのロードを完了すると、次いで島Nにおける複数のレイヤーの終了時間を変更し、島Nと島N+1との間のブレンドに必要なあらゆる遷移レイヤーを生成し、及び無限の終了時間を有する島N+1のためのレイヤーを生成する。該プロセスは次いで各島毎に繰り返すことができる。それ故、該スケジューリングは、現在の島から次の島への遷移をスケジューリングするプロセスとなる。
図10は、上記段落で説明したスケジューリングプロセスに従う一実施形態を示している:
1.第1の島のための(無限の終了時間を有する)複数のレイヤーを生成する(図10のブロック100)。
2.次の遷移タイプを選択する(図10のブロック102)。
3.遷移タイプが選択された場合に、次の島のための適当な構成要素を選択し、生成し、及びロードする(図10のブロック104)。
4.現在の描画時間と等しいかそれよりも遅い遷移時間を選択する(図10のブロック106)。
5.現在の島におけるレイヤーが適切に終了するよう該レイヤーのための終了時間を変更する(図10のブロック108)。これはまた、該レイヤーの終了時間に関連するフェードアウト時間の調節を伴うことが可能であることに留意されたい。
6.現在の島(又はコンテンツフレームグループ)から新しい島(コンテンツフレームグループ)への遷移に影響を与えるために必要となる一時レイヤーを生成する(図10のブロック110)。
7.新しい島(コンテンツフレームグループ)のための無限の終了時間を有するレイヤーを生成する(図10のブロック112)。
8.上記2.にループして前記「新しい」島を新しい「現在の」島として処理する(図10のブロック114)。
実施形態によっては、図10のプロセスは、ステップ4をステップ4Aに置換することにより変更される。
4A.現在の島内の関連する各レイヤーに、現在のサイクルの終わりでその繰り返しを止めるべきことを知らせる。該レイヤーは、そのサイクルの終わりとなるときに応答する。次いでスケジューラは、選択された遷移時間が、関連するレイヤーのサイクル時間の最も最近の終わりよりも後であることを確実にすることが可能である。
この変更に従って、レイヤーによっては、現在の島の複数のレイヤーがそれらの周期的な挙動における何らかの任意の点にあることになる場合には、なめらかな遷移を確実にするために既知の位置及び表示状態にあることが必要とされる。
図10のプロセスは、多数の方法で拡張することが可能である。例えば、レイヤーの能力は、特定の用途に適したものとなるよう拡張させ又は縮小させることが可能である。レイヤーの概念は、例えば3Dオブジェクトへと容易に拡張させることが可能である。別の拡張は、レイヤーのインタフェイスを異なる装置(一方はスケジューリングを責務とし、他方はレンダリングを責務とするもの)間の効率的なインタフェイスとして使用することである。
III.例示的な動作環境
動的なコラージュ生成システム10の実施形態は、如何なる特定のハードウェア、ファームウェア、又はソフトウェア構成にも限定されない1つ又は2つ以上の別個のモジュール(又はデータ処理要素)により実施することが可能である。本例示の実施形態では、該モジュールは、ディジタル電子回路(例えば、DSP(Digital Signal Processor)等のASIC(特定用途IC))内またはコンピュータハードウェア、ファームウェア、デバイスドライバ、又はソフトウェア内を含む、あらゆるコンピューティング又はデータ処理環境において実施することが可能である。実施形態によっては、複数の該モジュールの機能が1つのデータ処理要素へと組み合わされる。実施形態によっては、1つ又は2つ以上のモジュールの各々のそれぞれの機能が、それぞれ組をなす複数のデータ処理要素により実行される。
コラージュレイヤー生成手段12、合成イメージレンダラ14、及びディスプレイ16は、単一装置上の同一場所に配置することが可能であり、又は多数の装置にわたって分散させることが可能であり、多数の装置にわたって分散させる場合には、コラージュレイヤー生成手段12は、合成イメージレンダラ14、及びディスプレイ16は、ローカルな有線又は無線接続を介して互いに通信することが可能であり、又は大域ネットワーク接続(例えばインターネットを介した通信)を介して通信することが可能である。
実施形態によっては、動的なコラージュ生成システム10の実施形態によって実行される本方法を実施するためのプロセス命令(例えば、コンピュータソフトウェア等の機械読み取り可能コード)並びにそれが生成するデータは、1つ又は2つ以上の機械読み取り可能媒体に格納される。これらの命令及びデータを具体的に実施するのに適したストレージ装置は、例えば、EPROM、EEPROM、及びフラッシュメモリデバイス等の半導体メモリデバイス、内蔵ハードディスク及びリムーバブルハードディスク等の磁気ディスク、光磁気ディスク、DVD-ROM/RAM、及びCD-ROM/RAMを含む、全ての形態の不揮発性のコンピュータ読み取り可能記憶手段を含む。
一般に、動的なコラージュ生成システム10の実施形態は、デスクトップコンピュータ、ワークステーションコンピュータ、及びサーバコンピュータを含む、広範な電子装置のうちの任意のもので実施することが可能である。
図11は、本書で説明した動的なコラージュ生成システム10の実施形態を実施することができるコンピュータシステム120の一実施形態を示している。該コンピュータシステム120は、処理装置122(CPU)、システムメモリ124、及び前記処理装置122を該コンピュータシステム120の様々な構成要素に接続するシステムバス126を含む。該処理装置122は典型的には、1つ又は2つ以上のプロセッサを含み、その各々は、様々な市販のプロセッサのいずれかの形態とすることが可能である。前記システムメモリ124は典型的には、該コンピュータシステム120のスタートアップルーチンBIOS(Basic Input/Output System)を格納したROM(Read Only Memory)及びRAM(Random Access Memory)を含む。システムバス126は、メモリバス、周辺機器用バス、又はローカルバスとすることが可能であり、また、PCI、VESA、Micro Channel、ISA、及びEISAを含む様々なバスプロトコルの何れかと互換性を有するものとすることが可能である。コンピュータシステム120はまた、システムバス126に接続されてデータ、データ構造、及びコンピュータ実行可能命令の不揮発性又は永続性の格納を提供する1つ又は2つ以上のコンピュータ読み取り可能媒体ディスクを収容する永続記憶手段128(例えば、ハードディスクドライブ、フロッピーディスクドライブ、CD-ROMドライブ、磁気テープドライブ、フラッシュメモリ装置、及びディジタルビデオディスク)を含む。
ユーザは、1つ又は2つ以上の入力装置130(例えば、キーボード、コンピュータマウス、マイク、ジョイスティック、及びタッチパッド)を使用してコンピュータ120と対話する(例えば、コマンド又はデータを入力する)ことが可能である。実施形態によっては、入力装置130は、本願と同日に出願された「SYSTEM AND METHOD FOR DYNAMIC GENERATION OF MULTIMEDIA CONTENT」と題する米国特許出願第_号(代理人整理番号第200802868-1号)に記載されているような視聴者に向けられたビデオカメラを含む。情報は、ユーザに対して(例えば表示モニタにより実施された)ディスプレイ16上に表示されるGUI(Graphical User Interface)を介して提示することが可能であり、該ディスプレイ16は、(例えば、ビデオグラフィクスカードにより実施される)合成イメージレンダラ14により制御される。コンピュータシステム120はまた、典型的には、スピーカ及びプリンタ等の周辺出力装置を含む。1つ又は2つ以上のリモートコンピュータをNIC(Network Interface Card)136を介してコンピュータシステム120に接続することが可能である。
図8に示すように、システムメモリ124はまた、コラージュレイヤー生成手段12、グラフィクスドライバ138、並びに入力データ、処理データ、及び出力データを含む処理情報140を格納する。実施形態によっては、コラージュレイヤー生成手段12は、(例えば、Microsoft Windows(登録商標)オペレーティングシステムのDirect X(登録商標)コンポーネントを介して)グラフィクスドライバ138と連動して表示モニタ16上に動的なイメージコラージュを提示する。実施形態によっては、システムメモリ12内に存在するインタフェイスコンポーネントを更に含み、該インタフェイスコンポーネントは、グラフィクスドライバ138及びユーザ入力装置130と連動して、動的なコラージュ生成システム10の動作を管理し及び制御するためのユーザインタフェイスをディスプレイ16上に提示する。
IV.結論
本書で説明した実施形態は、複数のイメージ(例えばディジタル写真及びそこから抽出された際立つ要素等のイメージ要素)の動的なコラージュを自動的に生成するよう動作することが可能である。該コラージュは、見るものの関心を長期間にわたって維持し易い視覚的に魅力のあるアンビエント体験を生じさせるように、時間と共に絶えず変化するよう構成することが可能である。これらの実施形態は典型的には、ユーザが関心を示し易いことに関する知識が不完全なものである。しかし、ユーザの写真から多数の関心の対象を抽出してそれらを共に表示することにより、かかる実施形態は典型的には、ユーザが動的コラージュ内に少なくとも1つの関心のあるものを見る蓋然性がより高くなるように、視覚的なターゲットの豊富な選択肢をユーザに提供することが可能なものである。場合によっては、動的コラージュは、同じ構成が2回以上提示される蓋然性を低下させるよう視覚的コンテンツの提示に多数の考え得る変形を利用することができ、これにより、イメージ収集体の提示が斬新な魅力を常に有することが確実となる。
他の実施形態は、特許請求の範囲内のものである。
VI.付録
以下は、XMLテンプレートの一例である。
<?xml version="1.0" encoding="utf-8"?>
<page width="1280" height="960" name="AllOfMe">
<region pos="0">
<param name="left">
<mean>420</mean>
</param>
<param name="top">
<mean>70</mean>
</param>
<param name="width">
<mean>500</mean>
</param>
<param name="height">
<mean>460</mean>
</param>
<image element type="facegroup">
<param name="count">1</param>
<param name="radius">
<min>80</min>
<max>110</max>
</param>
<param name="ipr">
<min>-15</min>
<max>15</max>
</param>
</image element>
</region>
<region pos="3">
<param name="left">
<mean>765</mean>
</param>
<param name="top">
<mean>440</mean>
</param>
<pararn name="width">
<mean>440</mean>
</param>
<param name="height">
<mean>400</mean>
</param>
<image element type="facegroup">
<param name="count">1</param>
<param name="radius">
<min>70</min>
<max>100</max>
</param>
<param name="ipr">
<mim>15</min>
<max>15</max>
</param>
</image element>
</region>
<region pos="4">
<param name="left">
<mean>0</mean>
</param>
<param name="top">
<mean>240</mean>
</param>
<param name="width">
<mean>700</mean>
</param>
<param name="height">
<mean>720</mean>
</param>
<image element type="facegroup">
<param name="count">1</param>
<param name="radius">
<min>110</min>
<max>200</max>
</param>
<param name="ipr">
<min>-15</min>
<max>15</max>
</param>
</image element>
</region>
<configs>
<config>
<region>0</region>
<region>3</region>
<region>4</reglon>
<idmatch region="0">
<match>3</match>
<match>4</match>
</idmatch>
</config>
</configs>
</page>

Claims (23)

  1. コラージュレイヤー生成手段(12)により、一連のテンプレート(22)を決定し、該テンプレート(22)の各々が、一表示領域(38)内の複数の区域のそれぞれの時空間的レイアウトを定義し、該複数の区域の各々が、それぞれの組をなす1つ又は2つ以上のイメージ選択基準と、それぞれの組をなす1つ又は2つ以上の時間的挙動属性値とに関連づけられたものであり、
    前記コラージュレイヤー生成手段(12)により、複数の前記テンプレート(22)の各々毎に、該テンプレートの複数の区域の各々毎のそれぞれのイメージレイヤー(18)を確認し、該確認ステップが、該複数のレイヤーの各々毎に、前記それぞれの組をなすイメージ選択基準に従って、それぞれのイメージ要素(30)をそれぞれの区域に割り当てるステップを含み、
    前記コラージュレイヤー生成手段(12)により、一連のフレーム中の各フレーム(20)毎にそれぞれの組をなすレンダリングパラメータ値を生成し、該それぞれの組をなすレンダリングパラメータ値が、複数のテンプレート(22)のうちの1つ又は2つ以上について決定されたそれぞれの組をなすイメージレイヤー(18)と、それぞれの組をなす時間的挙動属性値とに基づいて、前記表示領域(38)中のフレームの構成を指定するものであり、及び、
    前記コラージュレイヤー生成手段(12)により、複数組の前記レンダリングパラメータ値を合成イメージレンダラ(14)へ出力する、
    という各ステップを含む方法。
  2. 前記生成ステップが、前記複数のテンプレート(22)の各々毎に複数の前記フレーム(20)からなるそれぞれのコンテンツフレームグループ(20)を生成するステップを含み、該生成ステップが、前記複数のテンプレートの各々毎に、該テンプレートについて決定された複数のイメージレイヤー(18)とそれぞれの組をなす時間的挙動属性値とを組み合わせて、それぞれのコンテンツフレームグループのそれぞれのフレームにするステップからなる、請求項1に記載の方法。
  3. 前記決定ステップが、1つ又は2つ以上の遷移プランを受信するステップを含み、該遷移プランの各々が、前記一連のテンプレート(22)のうちの1つ又は2つ以上の対をなす連続するテンプレート間のそれぞれの遷移を定義するものであり、
    前記生成ステップが、前記テンプレート(22)の各対毎に、該一対のテンプレートについて決定された複数のイメージレイヤー(18)をそれぞれの遷移プランに従って組み合わせて、連続する前記コンテンツフレームグループ間にそれぞれの遷移フレームグループを生成するステップを含む、
    請求項2に記載の方法。
  4. バックグランド生成手段(56)により、前記複数のテンプレート(22)の各々毎にそれぞれの組をなす装飾レイヤー(90)を生成するステップを更に含み、該装飾レイヤーの各々がそれぞれ1つの装飾要素を含み、該生成ステップが、前記複数のフレーム(20)の各々毎に、それぞれの組をなすイメージレイヤー(18)をそれぞれの組をなす装飾レイヤーと組み合わせてそれぞれのコンテンツフレームを生成するステップを含む、請求項1に記載の方法。
  5. 前記生成ステップが、前記複数のテンプレート(22)の各々毎に、前記表示領域(38)の覆い隠すことができないそれぞれの部分を識別するそれぞれの回避マップ(92)を決定するステップを含み、該部分が、装飾要素により覆い隠すことができないイメージ要素コンテンツを含み、更に、前記コンテンツフレームの前記表示領域の前記覆い隠すことができない部分が前記装飾要素のコンテンツを含まないように該装飾要素のそれぞれを装飾レイヤー(90)内に配置するステップを含む、請求項4に記載の方法。
  6. 前記それぞれの回避マップ(92)のうちの1つ又は2つ以上の各々が、前記表示領域(38)のそれぞれの覆い隠すことができないそれぞれの部分であって、前記装飾要素のコンテンツにより少なくとも部分的に覆い隠されるイメージ要素コンテンツを含む部分を更に識別する、請求項5に記載の方法。
  7. 前記回避マップ(92)の各々を決定する前記ステップが、それぞれのテンプレートにおいて定義される区域に関連づけられた時間的挙動属性値に基づいて行われる、請求項6に記載の方法。
  8. 複数の前記装飾レイヤー(90)のうちの少なくとも1つが、それぞれの組をなす1つ又は2つ以上の装飾的時間的挙動属性値に関連づけられており、前記生成ステップが、1つ又は2つ以上の装飾レイヤー(90)の各々毎に、それぞれの組をなす装飾的時間的挙動属性値に基づいて前記表示領域内のそれぞれの装飾要素のそれぞれのレイアウトを決定するステップを含む、請求項4に記載の方法。
  9. 前記装飾的時間的挙動属性値の少なくとも1つが、前記表示領域(38)内のそれぞれの装飾要素の周期的なフレーム間運動を指定する、請求項8に記載の方法。
  10. 前記複数のフレーム(20)の各々毎に、前記組み合わせステップが、装飾レイヤー(90)のそれぞれを、それぞれの組をなすイメージレイヤー(18)のz順で散在させるステップを含む、請求項4に記載の方法。
  11. 前記時間的挙動属性値の少なくとも1つが、前記表示領域(38)内のそれぞれの区域の周期的なフレーム間運動を指定する、請求項1に記載の方法。
  12. 前記生成ステップが、
    前記複数のフレーム(20)の各々毎に、それぞれのフレーム時間に基づいて、それぞれのイメージレイヤー(18)のそれぞれの組み合わせを決定し、及び、
    それぞれのイメージレイヤー(18)の各々毎に、前記表示領域(38)内の複数のイメージレイヤーのそれぞれの組み合わせを定義する複数のレンダリングパラメータ値のそれぞれを生成する、
    という各ステップを含む、請求項1に記載の方法。
  13. 前記生成ステップが、それぞれのグループをなすフレームにおける複数のレイヤー(18)のそれぞれの終了時間を指定するステップを含み、及び、
    先行するグループをなす複数のフレームが合成イメージレンダラ(14)により描画されている間に、前記グループをなすフレームを描画するために必要なデータをスケジューラ(48)によりコンピュータ読み取り可能メモリ(124,128)にロードし、該スケジューラ(48)により該ロード処理の完了時間を決定し、及び該スケジューラ(48)によりそれぞれのグループをなす複数のフレーム内の複数のレイヤーのそれぞれの終了時間を前記完了時間に基づいて変更する、という各ステップを更に含む、請求項12に記載の方法。
  14. ソースイメージプロセッサ(44)により、ディジタルイメージの際立つ部分を識別するステップを更に含み、複数の前記イメージ要素(30)の各々が、前記識別された際立つ部分にそれぞれに対応する、請求項1に記載の方法。
  15. マット生成手段(52)により、1つ又は2つ以上の前記イメージ要素(30)の各々毎に、それぞれのディジタルイメージ内のイメージ要素の境界を定めるステップを更に含み、該境界を定めるステップが、前記それぞれのディジタルイメージ内のイメージ要素の境界を定めるそれぞれのマスクを決定するステップを含む、請求項1に記載の方法。
  16. 非写実的変異生成手段(54)により、境界が定められたイメージ要素の各々毎に、それぞれのディジタルイメージの1つ又は2つ以上の非写実的変異を生成するステップを更に含み、前記レンダリングパラメータ値を生成する前記ステップが、前記複数のフレーム(20)にわたる遷移を生成するステップを含み、該遷移を生成する該ステップが、前記境界が定められたイメージ要素のうちの少なくとも1つについてそれぞれのディジタルイメージとその非写実的変異との異なる寄与をブレンドして前記遷移のそれぞれのフレームにおけるイメージ要素(30)の異なるそれぞれの表現を生成するステップを含む、請求項15に記載の方法。
  17. 前記レンダリングパラメータ値を生成する前記ステップが、複数のフレーム(20)にわたる遷移を生成するステップを含み、該遷移を生成する該ステップが、前記境界が定められたイメージ要素のうちの少なくとも1つについてそれぞれのマスクを変更して、前記遷移のそれぞれのフレームにおけるそれぞれのディジタルイメージの異なる部分を露出させるステップを含む、請求項15に記載の方法。
  18. 前記テンプレート(22)の少なくとも1つが、複数の区域のそれぞれに割り当てることができる複数のイメージ要素のメタデータ間の必要とされる関係を指定するイメージ選択基準を含み、少なくとも1つのテンプレートの複数の区域に対するそれぞれのイメージ要素(30)の割り当てが前記指定された必要とされる関係に従って実行される、請求項1に記載の方法。
  19. 前記複数のテンプレート(22)のうちの少なくとも1つが、複数のイメージ要素(30)に関連づけられた複数の個人を示すメタデータに関する必要とされる関係を指定するイメージ選択基準を含む、請求項18に記載の方法。
  20. 前記複数のテンプレート(22)のうちの少なくとも1つが、複数のイメージ要素(30)に関連づけられた複数の捕捉時間のそれぞれを示すメタデータに関する必要とされる関係を指定するイメージ選択基準を含む、請求項18に記載の方法。
  21. 前記複数のテンプレート(22)のうちの少なくとも1つが、複数のイメージ要素(30)の1つ又は2つ以上の視覚的な属性を示すメタデータに関する必要とされる関係を指定するイメージ選択基準を含む、請求項18に記載の方法。
  22. コンピュータ読み取り可能プログラムコードを格納した少なくとも1つのコンピュータ読み取り可能媒体(124,128)であって、該コンピュータ読み取り可能プログラムコードが、
    コンピュータによるその実行時に、
    一連のテンプレート(22)を決定し、該テンプレート(22)の各々が、一表示領域(38)内の複数の区域のそれぞれの時空間的レイアウトを定義し、該複数の区域の各々が、それぞれの組をなす1つ又は2つ以上のイメージ選択基準と、それぞれの組をなす1つ又は2つ以上の時間的挙動属性値とに関連づけられたものであり、
    複数の前記テンプレート(22)の各々毎に、該テンプレートの複数の区域の各々毎のそれぞれのイメージレイヤー(18)を確認し、該確認ステップが、該複数のレイヤー(18)の各々毎に、前記それぞれの組をなすイメージ選択基準に従って、それぞれのイメージ要素(30)をそれぞれの区域に割り当てるステップを含み、
    一連のフレーム中の各フレーム(20)毎にそれぞれの組をなすレンダリングパラメータ値を生成し、該それぞれの組をなすレンダリングパラメータ値が、複数のテンプレート(22)のうちの1つ又は2つ以上について決定されたそれぞれの組をなすイメージレイヤー(18)と、それぞれの組をなす時間的挙動属性値とに基づいて、前記表示領域(38)中のフレームの構成を指定するものであり、及び、
    複数組の前記レンダリングパラメータ値を合成イメージレンダラ(14)へ出力する、
    という各ステップを実施するよう構成されている、少なくとも1つのコンピュータ読み取り可能媒体(124,128)。
  23. コンピュータ読み取り可能命令を格納したコンピュータ読み取り可能媒体(124,128)と、
    メモリに接続されたデータ処理装置(122)であって、前記命令を実行するよう動作することが可能であり、及び該命令の実行に少なくとも部分的に基づいて、
    一連のテンプレート(22)を決定し、該テンプレート(22)の各々が、一表示領域(38)内の複数の区域のそれぞれの時空間的レイアウトを定義し、該複数の区域の各々が、それぞれの組をなす1つ又は2つ以上のイメージ選択基準と、それぞれの組をなす1つ又は2つ以上の時間的挙動属性値とに関連づけられたものであり、
    複数の前記テンプレート(22)の各々毎に、該テンプレート(22)の複数の区域の各々毎のそれぞれのイメージレイヤー(18)を確認し、該確認ステップが、該複数のレイヤー(18)の各々毎に、前記それぞれの組をなすイメージ選択基準に従って、それぞれのイメージ要素(30)をそれぞれの区域に割り当てるステップを含み、
    一連のフレーム中の各フレーム(20)毎にそれぞれの組をなすレンダリングパラメータ値を生成し、該それぞれの組をなすレンダリングパラメータ値が、複数のテンプレート(22)のうちの1つ又は2つ以上について決定されたそれぞれの組をなすイメージレイヤー(18)と、それぞれの組をなす時間的挙動属性値とに基づいて、前記表示領域(38)中のフレームの構成を指定するものであり、及び、
    複数組の前記レンダリングパラメータ値を合成イメージレンダラ(14)へ出力する、
    という各ステップを含む動作を実行するよう動作することが可能なデータ処理装置(122)とを備えている装置。
JP2011547895A 2009-01-28 2009-01-28 動的なイメージコラージュ Expired - Fee Related JP5289586B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2009/032221 WO2010087818A1 (en) 2009-01-28 2009-01-28 Dynamic image collage

Publications (2)

Publication Number Publication Date
JP2012516499A JP2012516499A (ja) 2012-07-19
JP5289586B2 true JP5289586B2 (ja) 2013-09-11

Family

ID=42395868

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011547895A Expired - Fee Related JP5289586B2 (ja) 2009-01-28 2009-01-28 動的なイメージコラージュ

Country Status (5)

Country Link
US (1) US20110285748A1 (ja)
EP (1) EP2391982B1 (ja)
JP (1) JP5289586B2 (ja)
CN (1) CN102326181A (ja)
WO (1) WO2010087818A1 (ja)

Families Citing this family (78)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8365092B2 (en) 2008-07-03 2013-01-29 Ebay Inc. On-demand loading of media in a multi-media presentation
US8893015B2 (en) 2008-07-03 2014-11-18 Ebay Inc. Multi-directional and variable speed navigation of collage multi-media
US10282391B2 (en) 2008-07-03 2019-05-07 Ebay Inc. Position editing tool of collage multi-media
US20110084982A1 (en) * 2009-10-12 2011-04-14 Sony Corporation Apparatus and Method for Displaying Image Data With Memory Reduction
AU2009251137B2 (en) * 2009-12-23 2013-04-11 Canon Kabushiki Kaisha Method for Arranging Images in electronic documents on small devices
US9176748B2 (en) * 2010-03-25 2015-11-03 Apple Inc. Creating presentations using digital media content
TWI435261B (zh) * 2010-08-17 2014-04-21 Wistron Corp 電子裝置及其面板化操作介面之建立方法
JP2012105145A (ja) * 2010-11-11 2012-05-31 Canon Inc 画像処理装置、画像処理方法、及び、プログラム
CN102917174A (zh) * 2011-08-04 2013-02-06 深圳光启高等理工研究院 应用于电子设备的视频合成方法和系统
CN102915551A (zh) * 2011-08-04 2013-02-06 深圳光启高等理工研究院 视频合成方法和系统
US9785610B1 (en) * 2011-11-15 2017-10-10 Hunter Engineering Company Visual display of vehicle wheel assembly for vehicle wheel service system
US8655843B2 (en) * 2011-11-22 2014-02-18 Verizon Patent And Licensing Inc. Layered body template based medical records
WO2014062919A1 (en) * 2012-10-19 2014-04-24 Linea Photosharing, Llc Rhythmic mosaic generation methods, apparatuses and media
JP5981175B2 (ja) * 2012-03-16 2016-08-31 株式会社Okiデータ・インフォテック 図面表示装置、及び図面表示プログラム
US9418628B2 (en) * 2012-04-15 2016-08-16 Trimble Navigation Limited Displaying image data based on perspective center of primary image
US9483856B2 (en) * 2012-04-20 2016-11-01 Freescale Semiconductor, Inc. Display controller with blending stage
US8957915B1 (en) * 2012-06-14 2015-02-17 Cinemagram Inc. Method, apparatus and system for dynamic images
JP5962383B2 (ja) * 2012-09-25 2016-08-03 大日本印刷株式会社 画像表示システムおよび画像処理装置
JP2014067310A (ja) * 2012-09-26 2014-04-17 Olympus Imaging Corp 画像編集装置、画像編集方法、およびプログラム
US8971639B2 (en) * 2012-09-27 2015-03-03 Hewlett-Packard Development Company, L.P. Semantic theme based shape collage representation for an image collection
KR101948692B1 (ko) * 2012-10-09 2019-04-25 삼성전자주식회사 촬영 장치 및 이미지 합성 방법
CN103853438B (zh) * 2012-11-29 2018-01-26 腾讯科技(深圳)有限公司 图集图片切换方法及浏览器
CN103903292B (zh) * 2012-12-27 2017-04-19 北京新媒传信科技有限公司 一种实现头像编辑界面的方法和系统
US9424811B2 (en) * 2013-03-15 2016-08-23 Crayola Llc Digital collage creation kit
US9355487B2 (en) 2013-03-15 2016-05-31 Crayola, Llc Coloring kit for capturing and animating two-dimensional colored creation
US10475226B2 (en) 2013-03-15 2019-11-12 Crayola Llc Coloring kit for capturing and animating two-dimensional colored creation
US9946448B2 (en) 2013-03-15 2018-04-17 Crayola Llc Coloring kit for capturing and animating two-dimensional colored creation
CN104243846A (zh) * 2013-06-19 2014-12-24 北京千橡网景科技发展有限公司 一种用于图像拼接的方法及装置
JP6119992B2 (ja) * 2013-08-23 2017-04-26 ブラザー工業株式会社 画像処理装置およびコンピュータプログラム
JP5936658B2 (ja) * 2013-09-24 2016-06-22 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
US9552342B2 (en) * 2014-01-09 2017-01-24 Microsoft Technology Licensing, Llc Generating a collage for rendering on a client computing device
CN103927115B (zh) * 2014-03-17 2017-03-22 联想(北京)有限公司 信息处理方法和电子设备
CN104392474B (zh) * 2014-06-30 2018-04-24 贵阳朗玛信息技术股份有限公司 一种生成、展示动画的方法及装置
JP6462259B2 (ja) * 2014-07-22 2019-01-30 株式会社ジャパンディスプレイ 画像表示装置及び画像表示方法
US20160028961A1 (en) * 2014-07-23 2016-01-28 Indran Rehan Thurairatnam Visual Media Capture Device For Visual Thinking
JP5954377B2 (ja) * 2014-08-19 2016-07-20 カシオ計算機株式会社 画像生成装置、画像生成方法及びプログラム
KR101598159B1 (ko) * 2015-03-12 2016-03-07 라인 가부시키가이샤 영상 제공 방법 및 영상 제공 장치
JP6494504B2 (ja) * 2015-12-25 2019-04-03 キヤノン株式会社 情報処理装置、制御方法およびプログラム
US10650039B2 (en) * 2016-02-25 2020-05-12 Lionheart Legacy Uco Customizable world map
JP6533481B2 (ja) * 2016-03-16 2019-06-19 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP6559609B2 (ja) * 2016-04-25 2019-08-14 富士フイルム株式会社 画像合成装置、画像合成方法および画像合成プログラム
CN106126253B (zh) * 2016-06-30 2021-07-16 海尔优家智能科技(北京)有限公司 一种应用程序视图生成图像的方法及装置
CN106201512A (zh) * 2016-07-11 2016-12-07 无锡天脉聚源传媒科技有限公司 一种图片展示的方法及装置
EP3491546A1 (en) * 2016-07-28 2019-06-05 Kodak Alaris Inc. A method for dynamic creation of collages from mobile video
US10635894B1 (en) * 2016-10-13 2020-04-28 T Stamp Inc. Systems and methods for passive-subject liveness verification in digital media
US11373449B1 (en) * 2016-10-13 2022-06-28 T Stamp Inc. Systems and methods for passive-subject liveness verification in digital media
JP6862164B2 (ja) * 2016-12-09 2021-04-21 キヤノン株式会社 プログラム、画像処理装置、および画像処理方法
JP6873678B2 (ja) 2016-12-09 2021-05-19 キヤノン株式会社 画像処理装置、制御方法、及びプログラム
US11176675B2 (en) 2017-02-01 2021-11-16 Conflu3Nce Ltd System and method for creating an image and/or automatically interpreting images
US11158060B2 (en) 2017-02-01 2021-10-26 Conflu3Nce Ltd System and method for creating an image and/or automatically interpreting images
US10582189B2 (en) 2017-02-01 2020-03-03 Conflu3nce Ltd. System and method for generating composite images
US10956773B2 (en) 2017-03-02 2021-03-23 Ricoh Company, Ltd. Computation of audience metrics focalized on displayed content
US10949463B2 (en) 2017-03-02 2021-03-16 Ricoh Company, Ltd. Behavioral measurements in a video stream focalized on keywords
US10956494B2 (en) 2017-03-02 2021-03-23 Ricoh Company, Ltd. Behavioral measurements in a video stream focalized on keywords
US10713391B2 (en) 2017-03-02 2020-07-14 Ricoh Co., Ltd. Tamper protection and video source identification for video processing pipeline
US10720182B2 (en) 2017-03-02 2020-07-21 Ricoh Company, Ltd. Decomposition of a video stream into salient fragments
US10719552B2 (en) 2017-03-02 2020-07-21 Ricoh Co., Ltd. Focalized summarizations of a video stream
US10943122B2 (en) 2017-03-02 2021-03-09 Ricoh Company, Ltd. Focalized behavioral measurements in a video stream
US10956495B2 (en) 2017-03-02 2021-03-23 Ricoh Company, Ltd. Analysis of operator behavior focalized on machine events
US10708635B2 (en) 2017-03-02 2020-07-07 Ricoh Company, Ltd. Subsumption architecture for processing fragments of a video stream
US10929685B2 (en) 2017-03-02 2021-02-23 Ricoh Company, Ltd. Analysis of operator behavior focalized on machine events
US10949705B2 (en) 2017-03-02 2021-03-16 Ricoh Company, Ltd. Focalized behavioral measurements in a video stream
US10929707B2 (en) 2017-03-02 2021-02-23 Ricoh Company, Ltd. Computation of audience metrics focalized on displayed content
JP6714145B2 (ja) * 2017-03-15 2020-06-24 富士フイルム株式会社 合成画像生成装置,合成画像生成方法およびそのプログラム
CN109308729B (zh) * 2017-07-27 2023-01-24 阿里巴巴集团控股有限公司 图片合成处理方法、装置及系统
US20190073115A1 (en) * 2017-09-05 2019-03-07 Crayola, Llc Custom digital overlay kit for augmenting a digital image
US10489952B2 (en) * 2017-11-01 2019-11-26 Disney Enterprises, Inc. Cosmetic transformation through image synthesis
JP6892634B2 (ja) * 2018-03-15 2021-06-23 オムロン株式会社 情報処理装置、情報処理方法、およびプログラム
JP7224774B2 (ja) * 2018-04-23 2023-02-20 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US11093771B1 (en) 2018-05-04 2021-08-17 T Stamp Inc. Systems and methods for liveness-verified, biometric-based encryption
US11496315B1 (en) 2018-05-08 2022-11-08 T Stamp Inc. Systems and methods for enhanced hash transforms
EP3803691A4 (en) * 2018-06-05 2022-01-19 Hewlett-Packard Development Company, L.P. GENERATION OF MODIFIED IMAGES FROM SEED IMAGES
CN109905593B (zh) * 2018-11-06 2021-10-15 华为技术有限公司 一种图像处理方法和装置
US11301586B1 (en) 2019-04-05 2022-04-12 T Stamp Inc. Systems and processes for lossy biometric representations
JP7418976B2 (ja) * 2019-06-07 2024-01-22 キヤノン株式会社 学習方法
US11967173B1 (en) 2020-05-19 2024-04-23 T Stamp Inc. Face cover-compatible biometrics and processes for generating and using same
US11854203B1 (en) * 2020-12-18 2023-12-26 Meta Platforms, Inc. Context-aware human generation in an image
CN118233712A (zh) * 2022-12-19 2024-06-21 北京字跳网络技术有限公司 一种视频生成方法、装置、设备及存储介质

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005506643A (ja) * 2000-12-22 2005-03-03 ミュビー テクノロジーズ ピーティーイー エルティーディー メディアプロダクションシステムとその方法
US20050062888A1 (en) * 2003-09-19 2005-03-24 Wood Anthony John Apparatus and method for presentation of portably-stored content on an high-definition display
US7689909B1 (en) * 2003-11-26 2010-03-30 Szuszczewicz Edward P System and method for generating photo collages and photo album pages
US7716092B2 (en) * 2003-12-22 2010-05-11 Sap Ag Use of separate rib ledgers in a computerized enterprise resource planning system
JP2005303907A (ja) * 2004-04-15 2005-10-27 Fuji Photo Film Co Ltd 画像編集装置,方法およびプログラム
US20050273470A1 (en) * 2004-05-20 2005-12-08 Heigold Cynthia J Interactive system for dynamic generation of a user-customized composite digital image
WO2006079991A2 (en) * 2005-01-28 2006-08-03 Koninklijke Philips Electronics, N.V. Dynamic photo collage
JP4726577B2 (ja) * 2005-08-25 2011-07-20 富士フイルム株式会社 スライドショー生成装置およびスライドショー用データ生成装置ならびにそれらの制御方法ならびにそれらを制御するプログラム
US8144919B2 (en) * 2006-09-22 2012-03-27 Fuji Xerox Co., Ltd. Annealing algorithm for non-rectangular shaped stained glass collages
US20080215984A1 (en) * 2006-12-20 2008-09-04 Joseph Anthony Manico Storyshare automation
JP2008217479A (ja) * 2007-03-05 2008-09-18 Fujifilm Corp 画像配置方法及び装置
US8078969B2 (en) * 2007-03-05 2011-12-13 Shutterfly, Inc. User interface for creating image collage
JP4998995B2 (ja) 2007-06-08 2012-08-15 富士フイルム株式会社 アルバム作成装置および方法ならびにプログラム

Also Published As

Publication number Publication date
EP2391982A1 (en) 2011-12-07
CN102326181A (zh) 2012-01-18
EP2391982B1 (en) 2020-05-27
EP2391982A4 (en) 2016-10-05
US20110285748A1 (en) 2011-11-24
WO2010087818A1 (en) 2010-08-05
JP2012516499A (ja) 2012-07-19

Similar Documents

Publication Publication Date Title
JP5289586B2 (ja) 動的なイメージコラージュ
US11676342B2 (en) Providing 3D data for messages in a messaging system
US11321385B2 (en) Visualization of image themes based on image content
CN110650368B (zh) 视频处理方法、装置和电子设备
CN108537859B (zh) 使用深度学习的图像蒙板
US10916001B2 (en) Facilitating sketch to painting transformations
US20210264139A1 (en) Creating videos with facial expressions
US11783556B2 (en) Augmented reality content generators including 3D data in a messaging system
JP5408208B2 (ja) 画像表示システム、画像表示装置並びにプログラム
US11457196B2 (en) Effects for 3D data in a messaging system
JP2006331393A (ja) アルバム作成装置、アルバム作成方法、及びプログラム
US20110080410A1 (en) System and method for making emotion based digital storyboard
CN106447756B (zh) 用于生成用户定制的计算机生成动画的方法和系统
CN114096986A (zh) 自动地分割和调整图像
WO2023231235A1 (zh) 动态图像的编辑方法、装置和电子设备
US20230169733A1 (en) System and method for rendering objects in an extended reality
US10186073B2 (en) Image processing device, image processing method, and data structure of image file
JP2010533918A (ja) グラフィックデータ提供方法及びグラフィックデータ表示方法
WO2002097732A1 (en) Method for producing avatar using image data and agent system with the avatar
Cheatle et al. Faces from the web: automatic selection and composition of media for casual screen consumption and printed artwork
WO2018018076A1 (en) Creating videos with facial expressions
US20230334791A1 (en) Interactive reality computing experience using multi-layer projections to create an illusion of depth
CN117788689A (zh) 一种基于三维建模的可交互式虚拟云展厅构建方法及系统
WO2023215637A1 (en) Interactive reality computing experience using optical lenticular multi-perspective simulation
Plante et al. Evaluating the location of hot spots in interactive scenes using the 3R toolbox

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130528

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130604

R150 Certificate of patent or registration of utility model

Ref document number: 5289586

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees