JP4998995B2 - アルバム作成装置および方法ならびにプログラム - Google Patents

アルバム作成装置および方法ならびにプログラム Download PDF

Info

Publication number
JP4998995B2
JP4998995B2 JP2007153315A JP2007153315A JP4998995B2 JP 4998995 B2 JP4998995 B2 JP 4998995B2 JP 2007153315 A JP2007153315 A JP 2007153315A JP 2007153315 A JP2007153315 A JP 2007153315A JP 4998995 B2 JP4998995 B2 JP 4998995B2
Authority
JP
Japan
Prior art keywords
image
input image
area
trimming
inclination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007153315A
Other languages
English (en)
Other versions
JP2008305275A (ja
Inventor
正幸 龍頭
啓 山路
早紀子 成海
亮 田畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007153315A priority Critical patent/JP4998995B2/ja
Priority to US12/135,227 priority patent/US8139826B2/en
Publication of JP2008305275A publication Critical patent/JP2008305275A/ja
Priority to US13/398,946 priority patent/US8571275B2/en
Application granted granted Critical
Publication of JP4998995B2 publication Critical patent/JP4998995B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/243Aligning, centring, orientation detection or correction of the image by compensating for image skew or non-uniform image deformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像とテンプレートを合成してアルバムを作成する装置および方法、ならびに、コンピュータにこのようなアルバム作成を実行させるプログラムに関するものである。
コンピュータを用いて、デジタルカメラによる撮影で得られた画像データや、撮影済の写真フイルムをフイルムスキャナで読み取ることによって得られた画像データを入力として、適宜画質調整・編集・加工処理を行い、処理済の画像を予め用意されたアルバムのテンプレートに挿入することによってアルバムを作成する方法が、一般ユーザ向けのソフトウェアや写真店等の専門オペレータ向けのソフトウェアによって実現されている。
例えば、ユーザによって、アルバムのテンプレートが選択され、選択されたテンプレート中のレイアウト枠に嵌め込むべき画像が選択され、選択された画像中の主要被写体領域の範囲とその主要被写体の注目点とが手作業で設定されると、その主要被写体領域をそのレイアウト枠に過不足なく嵌め込むことができるかどうかの判定を行い、嵌め込み可能と判定された場合には、前記の注目点とレイアウト枠中に予め設定された基準点とが一致するようにその画像に対するトリミング領域を決定し、その領域をトリミングしてレイアウト枠に嵌め込むことによって、画像とテンプレートを合成してアルバムを作成する装置が知られている(例えば、特許文献1)。
上記の装置では、ユーザが主要被写体領域や注目点を手動設定する必要があり、操作のための時間や手間がかかってしまう。
一方、証明写真等の定型的な写真のプリント装置の分野では、予め撮影された人物の画像から顔の輪郭情報を抽出し、抽出された顔の領域が、ユーザによって選択されたテンプレート内の所定の領域(レイアウト枠)に配置されるように、両領域の位置合わせと拡大縮小を行い、抽出された顔の領域とテンプレートを合成してプリント出力する装置が知られており(例えば、特許文献2)、この装置によれば、ユーザは合成対象の画像に対しては何らの操作も必要がなく、自動的に画像とテンプレートの合成をすることが可能になる。
特開2007−026246号公報 特開2000−270198号公報
しかしながら、特許文献2記載の装置は、あくまでも証明写真等の用途に応じた固定的な構図で顔が正面を向いた人物の画像が合成対象であり、特許文献1等に記載のアルバム作成の自動化のために解決すべき課題およびその解決手段については、特許文献には記載も示唆もされていない。すなわち、アルバム作成の場合、テンプレートと合成される画像は固定的な構図であるとは限らず、天地方向や被写体の傾き具合は多様であり、また、画像中に含まれる人物の数も1人とは限らない。したがって、特許文献2記載の装置を用いてこのような画像とテンプレートを合成しようとすると、被写体が傾いた状態でテンプレートと合成されたり、画像中の人物の全員を含む領域とテンプレートが合成されなかったりすることが起こりうる。
本発明は、上記事情に鑑みてなされたものであり、合成対象の画像中に複数の人物が含まれていたり、人物の傾きが多様であったりする場合であっても、ユーザが合成対象の画像に対して何らかの操作を必要とせず、適切かつ自動的にテンプレートと合成することによって、アルバムを生成することを実現するアルバム作成装置、方法、およびプログラムを提供することを目的とする。
本発明の第1のアルバム作成装置は、入力画像から1以上の人物の顔の領域を検出する顔検出手段と、前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定する傾き決定手段と、該入力画像の傾きに応じて、前記入力画像を回転させる画像回転手段と、該回転後の入力画像中に、前記顔検出手段によって検出された顔領域の1つ以上を含むトリミング基準領域を決定するトリミング基準領域決定手段と、前記トリミング基準領域内のトリミング基準点を決定するトリミング基準点決定手段と、画像が挿入される画像挿入領域と該画像挿入領域中に任意に設定されたレイアウト基準点とが関連づけられた前記アルバムのテンプレート中の該画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行うトリミング手段と、該トリミングされた前記入力画像中の領域を前記テンプレートと合成するテンプレート合成手段とを設けたことを特徴とする。
本発明の第1のアルバム作成方法は、入力画像から1以上の人物の顔の領域を検出し、
前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定し、該入力画像の傾きに応じて、前記入力画像を回転させ、該回転後の入力画像中に、前記検出された顔領域の1つ以上を含むトリミング基準領域を決定し、前記トリミング基準領域内のトリミング基準点を決定し、画像が挿入される画像挿入領域と該画像挿入領域中に任意に設定されたレイアウト基準点とが関連づけられた前記アルバムのテンプレート中の該画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行い、該トリミングされた前記入力画像中の領域を前記テンプレートと合成することを特徴とする。
本発明の第1のアルバム作成プログラムは、コンピュータに上記第1のアルバム作成方法を実行させるものである。
本発明の第2のアルバム作成装置は、入力画像から1以上の人物の顔の領域を検出する顔検出手段と、前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定する傾き決定手段と、該回転後の入力画像中に、前記顔検出手段によって検出された顔領域の1つ以上を含むトリミング基準領域を決定するトリミング基準領域決定手段と、前記トリミング基準領域内のトリミング基準点を決定するトリミング基準点決定手段と、画像が挿入される画像挿入領域と、該画像挿入領域中に任意に設定されたレイアウト基準点と該画像挿入領域に挿入されるべき画像の傾きを表す情報とが関連づけられた前記アルバムのテンプレートから、前記傾き決定手段によって決定された前記入力画像の傾きと前記傾き情報を比較することによって、前記入力画像の傾きと適合する前記画像挿入領域を決定する画像挿入領域決定手段と、決定された画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行うトリミング手段と、該トリミングされた前記入力画像中の領域を前記テンプレートと合成するテンプレート合成手段とを設けたことを特徴とする。
本発明の第2のアルバム作成方法は、入力画像から1以上の人物の顔の領域を検出し、前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定し、該回転後の入力画像中に、前記検出された顔領域の1つ以上を含むトリミング基準領域を決定し、前記トリミング基準領域内のトリミング基準点を決定し、画像が挿入される画像挿入領域と、該画像挿入領域中に任意に設定されたレイアウト基準点と該画像挿入領域に挿入されるべき画像の傾きを表す情報とが関連づけられた前記アルバムのテンプレートから、前記入力画像の傾きと前記傾き情報を比較することによって、前記入力画像の傾きと適合する前記画像挿入領域を決定し、決定された画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行い、該トリミングされた前記入力画像中の領域を前記テンプレートと合成することを特徴とする。
本発明の第2のアルバム作成プログラムは、コンピュータに上記第2のアルバム作成方法を実行させるものである。
次に本発明の詳細について説明する。
入力画像中の顔領域の検出方法には、例えば特許文献2に記載の方法等、本発明の実施時点において公知の方法を用いることができる。
また、顔検出の際に、入力画像中の主要被写体となる人物の顔を検出するようにしてもよい。ここで、主要被写体とは、顔が正面を向いている人物とすることや、顔検出の際の顔らしさ(例えばテンプレートに対する類似性等)がより高い領域とすることが考えられる。
入力画像中の人物の傾きの算出方法には、例えば、特開平8−138024号公報や特開2005−202477号公報に記載の方法等、本発明の実施時点において公知の方法を用いることができる。
入力画像中の人物の各々の傾きに基づいて入力画像の傾きを決定する方法の具体例としては、入力画像中の人物の各々の傾きのヒストグラムを作成し、頻度が最大となるクラスの代表値を入力画像の傾きとすることが考えられる。
このとき、上記顔検出処理によって検出された人物の内容的特徴に基づいて、該人物のうちの主要被写体を決定するようにし、上記顔検出によって検出された人物の各々の傾きに対して、前記主要被写体の傾きの重みがより大きくなるように重みづけを行って、前記入力画像の傾きを決定するようにしてもよい。
入力画像の傾きに応じた入力画像の回転は、その傾きを表す角度分の回転であってもよいし、90度単位の回転であってもよい。
トリミング基準領域は、検出された顔領域の1つ以上を含む領域であれば、いかなる形状であってもよい。例えば、矩形の領域とすることができる。また、特開2005−208732号公報に記載の方法等を用いてトリミング基準領域を決定してもよい。
さらに、検出された顔領域のすべてを含む領域をトリミング基準領域としてもよいし、上記顔検出処理によって検出された人物の内容的特徴に基づいて、該人物のうちの主要被写体を決定するようにし、前記主要被写体のみを含む領域をトリミング基準領域としてもよい。
また、隣接する前記顔領域間の距離を算出し、算出された距離が所定の閾値よりも大きい場合には、該隣接する前記顔領域の間に境界を有する複数のトリミング基準領域を決定するようにしてもよい。
なお、トリミング基準領域の決定は、入力画像の上記回転後に行ってもよいし、上記回転前の入力画像中で、検出された顔領域の1つ以上を含む領域を仮決定した後で、上記回転を行い、回転後の入力画像中における前記仮決定された領域をトリミング基準領域としてもよい。
トリミング基準点やレイアウト基準点は、入力画像/画像挿入領域の情報からコンピュータによる演算によって特定可能な任意の点とすることができる。具体例としては、トリミング基準領域/画像挿入領域の中心や重心とすることが考えられる。また、トリミング基準点とレイアウト基準点を異なる方法で特定される点としてもよい。
トリミング基準領域に基づいて入力画像中にレイアウト枠を設定する際、入力画像およびトリミング基準領域を適宜拡大または縮小してもよい。
前記トリミング基準領域を矩形領域とし、前記テンプレートが複数の前記画像挿入領域を含むようにした場合、前記レイアウト枠のアスペクト比と前記トリミング基準領域のアスペクト比とが所定の基準を満たす程度に近似する場合に前記トリミングを行うようにしてもよい。具体的には、複数の入力画像の各々に対して、上記基準を満たす画像挿入領域を選択してトリミングを行ってもよいし、各画像挿入領域に対して上記基準を満たす入力画像を選択してトリミングを行ってもよい。
一方、前記レイアウト枠のアスペクト比と前記トリミング基準領域のアスペクト比とが所定の基準を満たす程度に近似しない場合に、前記顔検出処理によって検出された人物の内容的特徴に基づいて、該人物のうちの主要被写体を決定し、該主要被写体のみを含む領域を前記トリミング基準領域として前記トリミングを行うようにしてもよい。
また、上記所定の基準を満たさない場合、前記トリミング基準領域を複数の小領域に分割し、該小領域の各々について、前記アルバムの1つの見開きページ内の複数の前記画像挿入領域のレイアウト枠を用いて前記トリミングを行うようにしてもよい。
本発明によれば、入力画像から1以上の人物の顔の領域を検出し、前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定するとともに、入力画像中に前記検出された顔領域の1つ以上を含むトリミング基準領域を決定し、これらの情報を利用して、アルバムテンプレート中の画像挿入領域において想定される画像の傾きと適合し、かつ、トリミング基準領域が画像挿入領域に含まれるように、入力画像のトリミングやアルバムテンプレートとの合成を行うので、合成対象の画像中に複数の人物が含まれていたり、人物の傾きが多様であったりする場合であっても、ユーザが合成対象の画像に対して何らかの操作を必要とせず、適切かつ自動的にテンプレートと合成することが可能になり、ユーザの手動操作の負担が軽減されつつ、被写体である人物の欠落や傾きのない、より適切なアルバムが作成される。
ここで、入力画像中の主要被写体となる人物の顔を検出したり、上記顔検出処理によって検出された人物のうちの主要被写体を決定したりし、この主要被写体に基づいて入力画像の傾きやトリミング基準領域を決定するようにすれば、入力画像の傾きやトリミング基準領域の決定の際に、入力画像中の主要被写体以外の人物の影響が軽減され、よりユーザの嗜好に沿った、さらに適切なアルバムが作成される。
アルバムテンプレートが複数の画像挿入領域を含む場合、前記レイアウト枠のアスペクト比と前記トリミング基準領域(矩形領域)のアスペクト比とが所定の基準を満たす程度に近似する場合に前記トリミングを行うようにすれば、レイアウト枠のアスペクト比に合わせるために入力画像を拡大縮小することを最小限で抑えることが可能になり、合成後の画像の画質劣化を軽減することができるだけでなく、レイアウト枠内にトリミング基準領域の周辺の背景領域が必要以上に含まれなくなるので、合成後の画像は、被写体となる人物がより適正な大きさで含まれる、ユーザにとってより好ましい画像となる。
以下、図面を参照して本発明の実施形態について説明する。図1は本発明の第1の実施形態によるアルバム作成装置を含む写真プリントの注文受付装置の外観斜視図である。この注文受付装置1は、ユーザによる画像のプリント注文を受け付けるために写真店の店頭に設置されるものであり、プリント注文するための画像が記録された各種メモリカードを装填し、メモリカードから画像を読み出したり、メモリカードに画像を記録したりするための複数種類のカードスロット4と、プリント注文のための各種表示を行う表示部6とを備え、写真店に設置されたプリンタ8および画像に対する画像処理やプリント注文の管理を行うためのデジタルイメージコントローラ(DIC)10とネットワーク経由で接続されている。なお、表示部6はタッチパネル式の入力部を備え、ユーザは表示部6の表示にしたがって表示部6にタッチすることにより、プリント注文や画像整理に必要な入力を行うことができる。
図2は、この注文受付装置1の構成を示す概略ブロック図である。図2に示すように、注文受付装置1は、画像を表す画像データの記録制御および表示制御等の各種制御を行うとともに、装置1を構成する各部の制御を行うCPU12と、装置1を動作させるための基本的なプログラムおよび各種定数が記録されているROM並びにCPU12が処理を実行する際の作業領域となるRAMにより構成されるシステムメモリ14と、種々の指示を装置1に対して行うためのタッチパネル式の入力部18と、上述した表示部6とを備える。
また、注文受付装置1は、上述したカードスロット4と、メモリカード2から読み出した画像、CPU12が実行する、画像のプリント注文や整理を行うための各種プログラムや参照データ等を記録するハードディスク24と、システムメモリ14、カードスロット4およびハードディスク24を制御するメモリ制御部16と、表示部6の表示を制御する表示制御部26と、入力部18による入力を制御する入力制御部22と、装置1をプリンタ8およびDIC10とネットワークを介して通信するためのネットワークインターフェース30とを備える。
なお、カードスロット4はメモリカード2の種類に応じて複数用意されているが、図2においては1つのカードスロット4のみを示している。
注文受付装置1で行われる後述の処理は、ハードディスク24に記憶されている各種プログラムが実行されることによって実現される。なお、ハードディスク24への各種プログラムの記憶は、この各種プログラムが記録されたCD−ROM等のコンピュータが読取可能な記録媒体からインストールすることによってなされる。また、各種プログラムは、注文受付装置1で行われる処理全体を制御するメインプログラムと、メインプログラムから必要に応じて呼び出される、注文処理やアルバム作成処理を行うサブプログラム等とからなる。
このような注文受付装置1におけるプリント注文は以下のようにして行われる。図3は注文受付装置1の表示部6に表示される初期画面を示す図である。この画面はメインプログラムの制御によって表示される。図3に示すように初期画面40には、プリント注文を行うためのプリント注文ボタン40A、および後述するアルバムの作成を行うためのアルバム作成ボタン40Bが表示されている。ここで、ユーザがプリント注文ボタン40Aを選択した場合、CPU12では、メインプログラムからプリント注文処理サブプログラムが呼び出され、このサブプログラムによる処理が実行される。ユーザが画面に表示される指示にしたがって複数の画像を記録したメモリカード2をカードスロット4に装填すると、装置1では、メモリカード2から複数の画像を読み出して一時的にハードディスク24に保存し、さらに、複数の画像の一覧を表示部6に表示する
ユーザは表示部6に表示された画像の一覧からのプリント注文を行う画像の選択、注文枚数および注文サイズの設定をタッチパネル方式の入力部18を用いて行う。そして、ユーザがプリント実行の指示を入力部18を用いて行うと、ユーザが選択した画像、並びに注文枚数および注文サイズを表す注文情報がDIC10に送信され、ここで画質を向上させるために必要な画像処理が画像に対して施され、注文情報に応じた注文枚数および注文サイズによりプリント注文した画像がプリンタ8からプリント出力される。
次に、本発明の第1の実施形態におけるアルバム作成装置について説明する。このアルバム作成装置による処理は、ユーザが図3の初期画面でアルバム作成ボタン40Bを選択することにより、メインプログラムからアルバム作成サブプログラムが呼び出され、実行されることによって実現される。本実施形態では、ユーザによって入力された複数の画像を、ユーザによって選択されたアルバムテンプレートの複数の画像挿入領域に、撮影日時順に挿入する処理が行われる。
図4は、このアルバム作成装置の構成とデータの流れを模式的に表したブロック図である。図に示したように、このアルバム作成装置は、画像入力部51、画像並替部52、顔検出部53、傾き決定部54、トリミング基準領域仮決定部55、トリミング基準点仮決定部56、画像回転部57、テンプレート選択部58、画像挿入領域情報取得部59、トリミング部60、テンプレート合成部61から構成されている。
画像入力部51は、ユーザのメモリカード2からの複数の画像Pi0(i0=1,2,...,I)の入力を受け付ける。ユーザが複数の画像を記録したメモリカード2をカードスロット4に装填すると、画像入力受付部51が、メモリカード2から複数の画像Pi0(i0=1,2,... ,I)を読み出して一時的にハードディスク24に保存する。なお、ハードディスク24に保存された画像を表示部6に表示させ、ユーザが入力部18を操作して、アルバム作成対象の画像Pi0(i0=1,2,... ,I)を選択するユーザインターフェースを提供するようにしてもよい。
画像並替部52は、アルバム作成対象の画像Pi0(i0=1,2,... ,I)を撮影日時の古い順に並べ替える。ここで、撮影日時は、画像Pi0(i0=1,2,... ,I)の画像データに付帯するExifタグから取得する。なお、以下では、撮影日時順に並べられた画像を、撮影日時順にPi(i=1,2,... ,I)とする。
顔検出部53は、入力された画像Pi中の1以上の顔領域Fij(j=1,2,・・・)を検出する。具体的には、画像Piのコントラストに基づいて円形に近い形状の肌色領域を顔領域Fijとして検出する。あるいは、AdaBoost等の機械学習手法を用いて得られた、様々な傾き(天地方向)の顔を判別する判別器を用いて検出する手法(特開2005-250775号公報等参照)等を用いてもよい。
傾き決定部54は、顔領域Fijの各々の傾きRFijを算出し、算出された傾きRFijに基づいて入力画像Piの傾きRiを決定する。図6は、顔領域Fijの傾きRFijの算出方法を説明するための図である。傾き決定部54は、まず、顔領域Fijから両目と口の領域を検出し、口の領域の中心部から両目の中心を通る直線に対して下ろした垂線と画像のPiの上下方向の直線のなす角の角度RFijを求める。ここで、顔領域Fijから両目と口の領域を検出する方法には、顔領域Fij内の黒色領域を目、赤色領域を口として検出する方法(特開平8-138024号公報、特開2005-202477公報等参照)や、上記のAdaBoost等の機械学習手法を用いて得られた、目や口を判別する判別器を用いて検出する手法(特開2006-164133号公報等参照)等を用いることができる。次に、角度RFijを90度単位の回転角RFij´に変換する。例えば、以下のように変換が行われる。
0度<RFij≦ 45度の場合、RFij´= 0度
45度<RFij≦135度の場合、RFij´= 90度
135度<RFij≦225度の場合、RFij´=180度
225度<RFij≦315度の場合、RFij´=270度
315度<RFij≦360度の場合、RFij´= 0度
さらに、傾き決定部54は、各顔領域Fij(j=1,2,・・・)の回転角RFij´に基づき、最も多くの顔領域が示す傾きRFiを求め、次式(1)により、入力画像Piの傾きRiを算出する。
i=RFi×(-1)+360 (1)
ただし、最多傾きRFiが複数存在する場合には、Ri=0度とする。
図7(a)に示した具体例では、顔領域F11およびF12の傾きRF11およびRF12が60度で、顔領域F13の傾きRF13が300度であるから、RF11´=RF12´=90度、RF13=270度となる。したがって、最多傾きRFiは90度となり、上式(1)より、傾きRiは270度となる。図7(b)は、この画像を時計回りに270度回転させたものであり、図に示したように、最多傾きRFiと同じ傾きを有する顔領域F11およびF12に合わせて天地方向が整えられる。
トリミング基準領域仮決定部55は、入力画像Pi中のすべての顔領域Fijを含む矩形領域をトリミング基準領域Siに仮決定する。具体的には、図8に示したように、入力画像Pi中の最上端の顔領域FTの中心座標(XT,YT)および顔の半径rT、最右端の顔領域FRの中心座標(XR,YR)および顔の半径rR、最下端の顔領域FBの中心座標(XB,YB)および顔の半径rB、最左端の顔領域FLの中心座標(XL,YL)および顔の半径rLを求め、次式(2)(3)のように、顔の半径の分のマージンを加えて、矩形領域の左上端(XLT,YLT)と右下端(XRB,YRB)の座標を求める。
(XLT,YLT)=(XL−rL, YT+rT) (2)
(XRB,YRB)=(XR+rR, YB−rB) (3)
トリミング基準点仮決定部56は、仮決定されたトリミング基準領域Siの中心座標(XC,YC)を、トリミング基準点Qiに仮決定する。図8の具体例では、中心座標(XC,YC)は次式(4)(5)のようにして求められる。
XC={(XL−rL)+(XR+rR)}/2 (4)
YC={(YT+rT)+(YB−rB)}/2 (5)
なお、トリミング基準領域仮決定部55およびトリミング基準点仮決定部56において、「仮決定」としているのは、後続の回転処理後の前記矩形領域が最終的なトリミング基準領域となるからである。
画像回転部57は、傾きRiに応じて入力画像Piを回転させる。図9は、トリミング基準領域および基準点を、(a)Ri=0度、(b)Ri=90度、(c)Ri=180度、(d)Ri=270度で回転させた場合を表している。ここで、入力画像の幅をImgW、高さをImgH、回転前のトリミング基準領域Siの幅をW1、高さをH1、回転後のトリミング基準領域Si´の幅をW、高さをH、回転後のトリミング基準点Qi´の座標を(XC´, YC´)とすると、各々、次式(6)から(21)のようにして求めることができる。
a. Ri=0度の場合
W=W1 (6)
H=H1 (7)
XC´=X1 (8)
YC´=Y1 (9)
b. Ri=90度の場合
W=H1 (10)
H=W1 (11)
XC´=ImgH−Y1 (12)
YC´=X1 (13)
b. Ri=180度の場合
W=W1 (14)
H=H1 (15)
XC´=ImgW−X1 (16)
YC´=ImgH−Y1 (17)
d. Ri=270度の場合
W=H1 (18)
H=W1 (19)
XC´=Y1 (20)
YC´=ImgW−X1 (21)
これにより、トリミング基準領域Si´、および、トリミング基準点Qi´が最終的に決定される。
テンプレート選択部58は、ユーザによるアルバム作成用のテンプレートTの選択を受け付ける。具体的には、ハードディスク24に予め記憶されているアルバム作成用の複数のテンプレートを表示部6に表示させ、ユーザが入力部18を操作して、所望のテンプレートTを選択するユーザインターフェースを提供する。図14は、テンプレートTの一例を示したものである。図に示したように、テンプレートTには複数の画像挿入領域が含まれており、各画像挿入領域には、その領域の輪郭(レイアウト枠)の形状および大きさを表す情報Ln、および、その領域の中心点の位置を表す情報Mnが関連づけられている。
画像挿入領域情報取得部59は、テンプレートTに関連づけられている画像挿入領域の輪郭(レイアウト枠)の形状および大きさを表す情報Ln、および、その領域の中心点(レイアウト基準点)の位置を表す情報Mnを順次取得する。
トリミング部60は、図10に例示したように、テンプレートT中の画像挿入領域のレイアウト枠Lnを、レイアウト基準点Mnとトリミング基準点Qi´とが一致し、トリミング基準領域Si´がレイアウト枠Ln内に含まれるように入力画像Pi´中に設定し、設定されたレイアウト枠に沿って入力画像Pi´のトリミングを行い、領域Pi″を切り出す。このとき、レイアウト枠Lnがトリミング基準領域Si´よりも小さい場合には、画像Pi´の縮小を行う。また、図10のように、レイアウト枠Lnがトリミング基準領域Si´よりも大きい場合には、トリミング基準領域Si´の周辺の領域も合わせてトリミングするだけでもよいし、入力画像Pi´を、レイアウト枠Ln内に収まる範囲で拡大し、拡大しても、トリミング基準領域Si´の外側でレイアウト枠Lnの内側の領域があれば、トリミング基準領域Si´の周辺の領域も合わせてトリミングするようにしてもよい。
テンプレート合成部61は、各入力画像Pi(i=1,2,・・・,I)からトリミングされた領域Pi″を、テンプレートT中の対応する画像挿入領域に嵌め込み合成して、アルバムCを作成する。
図5は、本発明の第1の実施形態におけるアルバム作成処理の流れを表すフローチャートである。図に示したように、ユーザが、画像入力部51において、アルバム作成対象の画像Pi0(i=1,2,・・・,I)を選択すると(#1)、画像並替部52が、入力された画像Pi0(i=1,2,・・・,I)を撮影日時順に並べ替える(#2)。一方、ユーザは、テンプレート選択部58において、アルバム作成に用いるテンプレートTの選択を行う(#3)。ここで、入力画像を識別する添え字i、および、テンプレートT中の画像挿入領域を識別する添え字nが1に初期化された後(#4)、最初の画像P1が読み込まれ(#5)、顔検出部53が、画像P1中の顔領域Fij(j=1,2,・・・)を検出する(#6)。傾き検出部54は、顔領域F1jの各々の傾きRF1jに基づいて入力画像P1の傾きR1を決定する(#7)。一方、トリミング基準領域仮決定部55は、入力画像P1中のすべての顔領域F1jを含む矩形領域(トリミング基準領域)S1を仮決定し(#8)、トリミング基準点仮決定部56は、矩形領域S1の中心座標Q1を求める(#9)。画像回転部57は傾きR1に応じて入力画像P1を回転させる(#10)。ここで、画像挿入領域情報取得部59は最初の画像挿入領域のレイアウト枠の情報L1およびレイアウト基準点M1を取得し(#11)、トリミング部60は、回転後の入力画像P1´、トリミング基準領域S1´、トリミング基準点Q1´、レイアウト枠L1、レイアウト基準点M1に基づいてトリミングを行い、領域P1″を切り出す(#12)。上記の#5から#12までの処理を、添え字iおよびnの値を1ずつ加算しながら(#13,#15)、最後の入力画像PIのトリミング(#12)が完了するか(#14;YES)、最後の画像挿入領域情報(n=N)の取得(#11)が完了する(#16;YES)まで繰り返し行い(#14;NO、#16;NO)、その後、テンプレート合成部が、各入力画像Pi´からトリミングされたPi″を、テンプレートT中の対応する画像挿入領域に嵌め込み合成して、アルバムCを作成する(#17)。作成されたアルバムは表示部6に表示され(#18)、ユーザの確認に供される。なお、上記のステップ#7から#9は、#8,#9,#7の順に行ってもよいし、ステップ#7とステップ#8から#9を並列に行ってもよい。また、テンプレートの合成(#17)は、各入力画像のトリミング(#12)が行われる度に、すなわち、ステップ#12の直後に行うようにしてもよい。
以上のように、本発明の第1の実施形態となるアルバム作成装置では、顔検出部53が、入力画像Piから1以上の人物の顔の領域Fijを検出し、傾き決定部54が、検出された顔領域Fijの傾きに基づいて前記入力画像Piの傾きRiを決定するとともに、トリミング基準領域仮決定部55が、検出されたすべての顔領域Fijを含むトリミング基準領域Siを仮決定し、トリミング基準点仮決定部56が、トリミング基準領域Qiを仮決定し、画像回転部57が、入力画像Piを傾きRiに応じて回転させ、トリミング部60が、アルバムのテンプレートT中の画像挿入領域のレイアウト枠Lnを、レイアウト基準点Mnとトリミング基準点Qi´とが一致し、トリミング基準領域Sn´がレイアウト枠Ln内に含まれるように入力画像Pi´中に設定し、設定されたレイアウト枠に沿って入力画像Pi´のトリミングを行う。したがって、合成対象の画像Pi´中に複数の人物が含まれていたり、人物の傾きが多様であったりする場合であっても、ユーザが合成対象の画像Piに対して何らかの操作を行う必要がなく、適切かつ自動的にテンプレートと合成することが可能になり、ユーザの手動操作の負担が軽減されつつ、被写体である人物の欠落や傾きのない、より適切なアルバムが作成される。
上記実施形態において、顔検出部53が、入力画像Pi中の主要被写体のみを検出するようにしてもよい。具体的には、顔の面積が所定の閾値より大きいもののみを検出するようにしたり、上記判別器の機械学習の際に正面を向いていない顔は検出されないように学習させたり、判別器の出力値や顔を表すテンプレートに対する類似度等の、検出された領域の顔らしさを表す信頼度が所定の閾値よりも高いもののみを検出するようにしたりすることが考えられる。図11は、主要被写体のみを検出することによる効果を説明するための図である。図に示したとおり、上記実施形態の顔検出部53では、画像の右側の正面を向いた2人の人物の顔だけでなく、画像の左側の横を向いた人物の顔も検出してしまう可能性がある。このような場合、トリミング基準領域Siは横方向に長い矩形領域となり、画像挿入領域(レイアウト枠)Lnの形状が、図のように正方形に近い場合には、入力画像Piをかなり縮小しなければ、トリミング基準領域Siをレイアウト枠Ln内に収めることができず、画質劣化を招いてしまう。そこで、顔検出部53が正面向きの顔のみを検出するようにすれば、図に示したように、トリミング基準領域Siの形状は正方形に近づくので、入力画像Piの縮小率を抑えることができ、画質の劣化を軽減することができる。また、主要被写体のみによるアルバムが作成されるので、よりユーザの嗜好が反映されたものとなりうる。
また、顔検出部53は入力画像Pi中のすべての顔領域Fijを検出するようにしておき、検出された顔領域Fijのうちの主要被写体を決定する主要被写体決定部をさらに設けてもよい。この場合も上記と同様に、トリミング基準領域仮決定部55が、主要被写体のみを含むトリミング基準領域を決定するようにすればよい。
また、傾き決定部54が、主要被写体の傾きに対する重みがより大きくなるように重みづけを行って、前記入力画像の傾きを決定するようにしてもよい。例えば、図12に示した入力画像では、画像右側の正面向きの顔の傾きに対する重みが、画像左側の横向きの顔の傾きに対する重みよりも大きくなるように重みづけを行えば、入力画像の傾きを、正面向きの顔の傾きがより大きく反映されたものにすることができる。このとき、横向きの顔の傾きに対する重みを0にすれば、主要被写体のみを検出した場合と同様の結果が得られる。
上記の実施形態では、撮影日時順に並べられた入力画像Pi´を、テンプレートTの先頭の画像挿入領域から順に挿入していくことによってアルバムを作成していたが、入力画像Pi´中のトリミング基準領域Si´の形状(アスペクト比)と、画像挿入領域(レイアウト枠Lnの形状(アスペクト比))が大きく異なっている場合には、入力画像Pi´をかなり縮小しなければ、トリミング基準領域Si´をレイアウト枠Ln内に収めることができず、画質劣化を招いてしまう。また、入力画像Pi´を縮小しなければ、トリミング基準領域Si´はレイアウト枠Lnからはみ出してしまい、トリミング後の領域Pi″中に、入力画像Pi´中のすべての顔領域が含まれなくなってしまう。そこで、テンプレートT中の画像挿入領域毎にその領域(レイアウト枠Ln)のアスペクト比Anも関連づけておき、画像挿入領域情報取得部59が、トリミング基準領域Si´のアスペクト比Aiを計算し、両アスペクト比の差が所定の閾値よりも小さくなるような画像挿入領域を選択するようにしてもよい。これにより、レイアウト枠Lnのアスペクト比Anに合わせるために入力画像Pi´を拡大縮小することを最小限で抑えることが可能になり、合成後の画像の画質劣化を軽減することができるだけでなく、レイアウト枠Ln内にトリミング基準領域Si´の周辺の領域が必要以上に含まれなくなるので、合成後の画像は、被写体となる人物がより適正な大きさで含まれる、ユーザにとってより好ましい画像となる。
ここで、両アスペクト比の差が所定の閾値よりも小さくなるような画像挿入領域が存在しない場合には、図13に例示したように、1つの入力画像Pi´中に複数のトリミング基準領域Si1´、Si2´を設定するようにし、画像挿入領域情報取得部59が、各領域Si1´、Si2´毎に、両アスペクト比の差が所定の閾値よりも小さくなるような画像挿入領域を選択するようにしてもよい。この場合、各領域Si1´、Si2´は1つの入力画像Pi´から得られたものであるから、内容的な特徴に鑑みると、テンプレートT中の近接する位置に挿入されることが好ましい。そこで、画像挿入領域情報取得部59は、このような1つの入力画像Pi´から得られた複数のトリミング基準領域Si1´、Si2´に対しては、見開きページ内の画像挿入領域(図14のレイアウト枠L1からL5に対応する画像挿入領域)から、最も適切な画像挿入領域を選択するようにすることが好ましい。図13の例では、トリミング基準領域Si1´にはレイアウト枠L2、トリミング基準領域Si2´にはレイアウト枠L1が選択される。
なお、1つの入力画像P1´中に複数のトリミング基準領域を設定する場合、隣接する顔領域の間の距離を算出し、算出された距離が所定の閾値よりも大きい場合には、その隣接する顔領域の間に境界ができるように、複数のトリミング基準領域を決定するようにすればよい。図13の入力画像Pi´では、顔領域Fi1´とFi2´の距離が所定の閾値よりも大きかった場合を示している。
本発明の第2の実施形態は、入力画像Piの傾きを考慮しつつ、入力画像Piを回転させることなく、より適切なテンプレートとの合成を実現するものである。図15は、本発明の第2の実施形態となるアルバム作成装置の構成を表すブロック図である。第1の実施形態との相違点は以下のとおりである。
第1に、画像並替部52と画像回転部57を構成から外している。
第2に、テンプレートTは、画像挿入領域毎に、挿入されるべき画像の好ましい傾きが関連づけられたものとなっている。
第3に、画像挿入領域情報取得部59を画像挿入領域情報取得部59´に置換している。この画像挿入領域情報取得部59´は、入力画像Piの傾きRiと一致する傾きと関連づけられた画像挿入領域の情報を選択する処理を行う。
また、トリミング基準領域仮決定部55は、トリミング基準領域決定部55´、トリミング基準点仮決定部56はトリミング基準点決定部56´に置換されているが、これらは、後で入力画像Piの回転を行わないため、これらの処理部で決定されたトリミング基準領域やトリミング基準点が最終的なものとなるので、処理部の名称を変更したものであり、各処理部の処理内容は同じである。
本実施形態のアルバム作成装置によるアルバム作成処理の流れは、図5のフローチャートにおいて、ステップ#10を省略し、ステップ#11において、画像挿入領域情報取得部59´が上記の処理を行うようにしたものとなる。なお、ここでは、添え字nは、n番目に選択された画像挿入領域情報を意味する。
以上のように、本発明の第2の実施形態によるアルバム作成装置によれば、画像挿入領域情報取得部59´が、傾き決定部54によって決定された入力画像Piの傾きRiと合致する画像挿入領域を選択するので、第1の実施形態と同様にユーザの手動操作の負担が軽減されるだけでなく、作成されたアルバムは、入力画像Pi中の被写体の傾きによる違和感のない、好ましいものとなる。
なお、上記の説明の他、各実施形態におけるシステム構成、処理フロー、ユーザインターフェース等に対して、本発明の趣旨から逸脱しない範囲で様々な改変を行ったものも、本発明の技術的範囲に含まれる。また、上記の各実施形態はあくまでも例示であり、上記のすべての説明が本発明の技術的範囲を限定的に解釈するために利用されるべきものではない。
本発明の実施形態によるアルバム作成装置を含む注文受付装置の外観斜視図 本発明の実施形態による注文受付装置の構成を示す概略ブロック図 初期画面を示す図 本発明の第1の実施形態のよるアルバム作成装置の構成とデータの流れを模式的に表したブロック図 本発明の第1の実施形態における操作と処理の流れを示すフローチャート 顔領域の傾きを説明するための図 顔領域の傾きから入力画像の傾きを求める処理を説明するための図 トリミング基準領域の決定方法を説明するための図 画像の回転に伴うトリミング基準領域およびトリミング基準点の変換を説明するための図 トリミング処理を説明するための図 主要被写体のみに対するトリミング処理を説明するための図 主要被写体に重点をおいた画像の傾きの決定方法を説明するための図 トリミング基準領域を分割した例を表す図 アルバムテンプレート(見開きページ)の例を表す図 本発明の第2の実施形態のよるアルバム作成装置の構成とデータの流れを模式的に表したブロック図
符号の説明
1 注文受付装置
2 メモリカード
4 カードスロット
6 表示部
8 プリンタ
10 DIC
12 CPU
14 システムメモリ
16 メモリ制御部
18 入力部
22 入力制御部
24 ハードディスク
26 表示制御部
30 ネットワークインターフェース
40 初期画面
51 画像入力部
52 画像並替部
53 顔検出部
54 傾き決定部
55 トリミング基準領域仮決定部
55´ トリミング基準領域決定部
56 トリミング基準点仮決定部
56´ トリミング基準点決定部
57 画像回転部
58 テンプレート選択部
59、59´ 画像挿入領域情報取得部
60 トリミング部
61 テンプレート合成部

Claims (14)

  1. 入力画像から1以上の人物の顔の領域を検出する顔検出手段と、
    前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定する傾き決定手段と、
    該入力画像の傾きに応じて、前記入力画像を回転させる画像回転手段と、
    該回転後の入力画像中に、前記顔検出手段によって検出された顔領域の1つ以上を含むトリミング基準領域を決定するトリミング基準領域決定手段と、
    前記トリミング基準領域内のトリミング基準点を決定するトリミング基準点決定手段と、
    画像が挿入される画像挿入領域と該画像挿入領域中に任意に設定されたレイアウト基準点とが関連づけられたアルバムのテンプレート中の該画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行うトリミング手段と、
    該トリミングされた前記入力画像中の領域を前記テンプレートと合成するテンプレート合成手段とを備えたことを特徴とするアルバム作成装置。
  2. 入力画像から1以上の人物の顔の領域を検出する顔検出手段と、
    前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定する傾き決定手段と、
    前記入力画像中に、前記顔検出手段によって検出された顔領域の1つ以上を含むトリミング基準領域を決定するトリミング基準領域決定手段と、
    前記トリミング基準領域内のトリミング基準点を決定するトリミング基準点決定手段と、
    画像が挿入される画像挿入領域と、該画像挿入領域中に任意に設定されたレイアウト基準点と該画像挿入領域に挿入されるべき画像の傾きを表す情報とが関連づけられたアルバムのテンプレートから、前記傾き決定手段によって決定された前記入力画像の傾きと前記傾き情報を比較することによって、前記入力画像の傾きと適合する前記画像挿入領域を決定する画像挿入領域決定手段と、
    決定された画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行うトリミング手段と、
    該トリミングされた前記入力画像中の領域を前記テンプレートと合成するテンプレート合成手段とを備えたことを特徴とするアルバム作成装置。
  3. 前記顔検出手段が、前記入力画像中の主要被写体となる人物の顔を検出するものであることを特徴とする請求項1または2記載のアルバム作成装置。
  4. 前記顔検出手段によって検出された人物の内容的特徴に基づいて、該人物のうちの主要被写体を決定する主要被写体決定手段をさらに備え、
    前記傾き決定手段が、前記人物の各々の傾きに対して、前記主要被写体の傾きの重みがより大きくなるように重みづけを行って、前記入力画像の傾きを決定するものであることを特徴とする請求項1または2に記載のアルバム作成装置。
  5. 前記トリミング基準領域決定手段が、前記回転後の入力画像中に、前記顔検出手段によって検出された顔領域のすべてを含むトリミング基準領域を決定するものであることを特徴とする請求項1に記載のアルバム作成装置。
  6. 前記顔検出手段によって検出された人物の内容的特徴に基づいて、該人物のうちの主要被写体を決定する主要被写体決定手段をさらに備え、
    前記トリミング基準領域決定手段が、前記主要被写体のみを含む領域を前記トリミング基準領域とするものであることを特徴とする請求項1,2,4のいずれか1項に記載のアルバム作成装置。
  7. 前記トリミング基準領域が矩形領域であり、
    前記テンプレートが複数の前記画像挿入領域を含むものであり、
    前記トリミング手段が、前記レイアウト枠のアスペクト比と前記トリミング基準領域のアスペクト比とが所定の基準を満たす程度に近似する場合に前記トリミングを行うものであることを特徴とする請求項1から6のいずれか1項に記載のアルバム作成装置。
  8. 前記トリミング基準領域が矩形領域であり、
    前記テンプレートが複数の前記画像挿入領域を含むものであり、
    前記トリミング手段が、前記レイアウト枠のアスペクト比と前記トリミング基準領域のアスペクト比とが所定の基準を満たす程度に近似しない場合に、前記顔検出手段によって検出された人物の内容的特徴に基づいて、該人物のうちの主要被写体を決定し、該主要被写体のみを含む領域を前記トリミング基準領域として前記トリミングを行うものであることを特徴とする請求項1または2に記載のアルバム作成装置。
  9. 前記トリミング基準領域が矩形領域であり、
    前記テンプレートが複数の前記画像挿入領域を含むものであり、
    前記トリミング手段が、前記レイアウト枠のアスペクト比と前記トリミング基準領域のアスペクト比とが所定の基準を満たす程度に近似しない場合に、前記トリミング基準領域を複数の小領域に分割し、該小領域の各々について、前記アルバムの1つの見開きページ内の複数の前記画像挿入領域のレイアウト枠を用いて前記トリミングを行うものであることを特徴とする請求項1から7のいずれか1項に記載のアルバム作成装置。
  10. 前記トリミング基準領域決定手段が、隣接する前記顔領域間の距離を算出し、算出された距離が所定の閾値よりも大きい場合には、該隣接する前記顔領域の間に境界を有する複数のトリミング基準領域を決定するものであることを特徴とする請求項1から9のいずれか1項に記載のアルバム作成装置。
  11. CPUを備えたアルバム作成装置によって実行されるアルバム作成方法であり、前記CPUが、
    入力画像から1以上の人物の顔の領域を検出し、
    前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定し、
    該入力画像の傾きに応じて、前記入力画像を回転させ、
    該回転後の入力画像中に、前記検出された顔領域の1つ以上を含むトリミング基準領域を決定し、
    前記トリミング基準領域内のトリミング基準点を決定し、
    画像が挿入される画像挿入領域と該画像挿入領域中に任意に設定されたレイアウト基準点とが関連づけられたアルバムのテンプレート中の該画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行い、
    該トリミングされた前記入力画像中の領域を前記テンプレートと合成することを特徴とするアルバム作成方法。
  12. CPUを備えたアルバム作成装置によって実行されるアルバム作成方法であり、前記CPUが、
    入力画像から1以上の人物の顔の領域を検出し、
    前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定し、
    前記入力画像中に、前記検出された顔領域の1つ以上を含むトリミング基準領域を決定し、
    前記トリミング基準領域内のトリミング基準点を決定し、
    画像が挿入される画像挿入領域と、該画像挿入領域中に任意に設定されたレイアウト基準点と該画像挿入領域に挿入されるべき画像の傾きを表す情報とが関連づけられたアルバムのテンプレートから、前記入力画像の傾きと前記傾き情報を比較することによって、前記入力画像の傾きと適合する前記画像挿入領域を決定し、
    決定された画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行い、
    該トリミングされた前記入力画像中の領域を前記テンプレートと合成することを特徴とするアルバム作成方法。
  13. コンピュータを、
    入力画像から1以上の人物の顔の領域を検出する手段と
    前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定する手段と、
    該入力画像の傾きに応じて、前記入力画像を回転させる手段と、
    該回転後の入力画像中に、前記検出された顔領域の1つ以上を含むトリミング基準領域を決定する手段と、
    前記トリミング基準領域内のトリミング基準点を決定する手段と、
    画像が挿入される画像挿入領域と該画像挿入領域中に任意に設定されたレイアウト基準点とが関連づけられたアルバムのテンプレート中の該画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行う手段と、
    該トリミングされた前記入力画像中の領域を前記テンプレートと合成する手段として機能させることを特徴とするアルバム作成プログラム。
  14. コンピュータを、
    入力画像から1以上の人物の顔の領域を検出する手段と、
    前記人物の内容的特徴に基づいて該人物の各々の傾きを算出し、該傾きに基づいて前記入力画像の傾きを決定する手段と、
    前記入力画像中に、前記検出された顔領域の1つ以上を含むトリミング基準領域を決定する手段と、
    前記トリミング基準領域内のトリミング基準点を決定する手段と、
    画像が挿入される画像挿入領域と、該画像挿入領域中に任意に設定されたレイアウト基準点と該画像挿入領域に挿入されるべき画像の傾きを表す情報とが関連づけられたアルバムのテンプレートから、前記入力画像の傾きと前記傾き情報を比較することによって、前記入力画像の傾きと適合する前記画像挿入領域を決定する手段と、
    決定された画像挿入領域の輪郭を表すレイアウト枠を、前記レイアウト基準点と前記トリミング基準点とが一致し、前記トリミング基準領域が前記レイアウト枠内に含まれるように前記入力画像中に設定し、設定されたレイアウト枠に沿って前記入力画像のトリミングを行う手段と、
    該トリミングされた前記入力画像中の領域を前記テンプレートと合成する手段として機能させることを特徴とするアルバム作成プログラム。
JP2007153315A 2007-06-08 2007-06-08 アルバム作成装置および方法ならびにプログラム Expired - Fee Related JP4998995B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007153315A JP4998995B2 (ja) 2007-06-08 2007-06-08 アルバム作成装置および方法ならびにプログラム
US12/135,227 US8139826B2 (en) 2007-06-08 2008-06-09 Device and method for creating photo album
US13/398,946 US8571275B2 (en) 2007-06-08 2012-02-17 Device and method for creating photo album

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007153315A JP4998995B2 (ja) 2007-06-08 2007-06-08 アルバム作成装置および方法ならびにプログラム

Publications (2)

Publication Number Publication Date
JP2008305275A JP2008305275A (ja) 2008-12-18
JP4998995B2 true JP4998995B2 (ja) 2012-08-15

Family

ID=40095923

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007153315A Expired - Fee Related JP4998995B2 (ja) 2007-06-08 2007-06-08 アルバム作成装置および方法ならびにプログラム

Country Status (2)

Country Link
US (2) US8139826B2 (ja)
JP (1) JP4998995B2 (ja)

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4683339B2 (ja) * 2006-07-25 2011-05-18 富士フイルム株式会社 画像トリミング装置
JP2008147850A (ja) * 2006-12-07 2008-06-26 Canon Inc デザイン編集方法およびデザイン編集装置およびデザイン編集プログラム
US8078969B2 (en) * 2007-03-05 2011-12-13 Shutterfly, Inc. User interface for creating image collage
US8042039B2 (en) * 2008-05-25 2011-10-18 Hewlett-Packard Development Company, L.P. Populating a dynamic page template with digital content objects according to constraints specified in the dynamic page template
EP2391982B1 (en) * 2009-01-28 2020-05-27 Hewlett-Packard Development Company, L.P. Dynamic image collage
JP2010191592A (ja) * 2009-02-17 2010-09-02 Seiko Epson Corp 顔の特徴部位の座標位置を検出する画像処理装置
US10298781B2 (en) * 2009-03-18 2019-05-21 Shutterfly, Inc. Cloud storage for image data, image product designs, and image projects
US9485365B2 (en) * 2009-03-18 2016-11-01 Shutterfly, Inc. Cloud storage for image data, image product designs, and image projects
US8379939B1 (en) * 2009-09-08 2013-02-19 Adobe Systems Incorporated Efficient and scalable face recognition in photo albums
US9319640B2 (en) * 2009-12-29 2016-04-19 Kodak Alaris Inc. Camera and display system interactivity
JP4930607B2 (ja) * 2010-02-04 2012-05-16 カシオ計算機株式会社 画像処理装置、及び、画像処理プログラム
US8842934B2 (en) * 2010-07-20 2014-09-23 Canon Kabushiki Kaisha Image processing apparatus and method for controlling the image processing apparatus
US8922843B2 (en) * 2010-10-28 2014-12-30 Kodak Alaris Inc. Imaging product layout system
US8913301B2 (en) * 2010-10-28 2014-12-16 Intellectual Ventures Fund 83 Llc Imaging product layout method
KR101315398B1 (ko) * 2010-12-28 2013-10-07 주식회사 팬택 3차원 증강 현실 표시 장치 및 방법
JP5506864B2 (ja) * 2011-06-20 2014-05-28 富士フイルム株式会社 画像処理装置、画像処理方法および画像処理プログラム
US9008436B2 (en) * 2011-10-28 2015-04-14 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US8811747B2 (en) 2011-10-28 2014-08-19 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US20130108170A1 (en) * 2011-10-28 2013-05-02 Raymond William Ptucha Image Recomposition From Face Detection And Facial Features
US9025835B2 (en) 2011-10-28 2015-05-05 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US9025836B2 (en) * 2011-10-28 2015-05-05 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US8938100B2 (en) 2011-10-28 2015-01-20 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
JP2013153375A (ja) * 2012-01-26 2013-08-08 Sony Corp 画像処理装置、画像処理方法および記録媒体
JP6012309B2 (ja) * 2012-07-09 2016-10-25 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
JP5955139B2 (ja) * 2012-07-09 2016-07-20 キヤノン株式会社 画像配置制御装置、画像配置制御方法、及びプログラム
JP6012310B2 (ja) * 2012-07-09 2016-10-25 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP6071289B2 (ja) 2012-07-09 2017-02-01 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US9275301B2 (en) * 2012-10-04 2016-03-01 Xerox Corporation Method and system for creating digital image album
US9280804B2 (en) * 2012-11-16 2016-03-08 Google Inc. Rotation of an image based on image content to correct image orientation
JP6261206B2 (ja) * 2013-06-28 2018-01-17 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP6295534B2 (ja) * 2013-07-29 2018-03-20 オムロン株式会社 プログラマブル表示器、制御方法、およびプログラム
JP2015188738A (ja) * 2014-03-31 2015-11-02 富士フイルム株式会社 画像処理装置、画像処理方法及びプログラム
JP6336406B2 (ja) * 2015-03-11 2018-06-06 富士フイルム株式会社 画像合成装置,画像合成方法ならびに画像合成プログラムおよびそのプログラムを格納した記録媒体
JP6521791B2 (ja) * 2015-08-07 2019-05-29 キヤノン株式会社 情報処理装置およびその制御方法
US11328152B2 (en) 2019-06-17 2022-05-10 Pixart Imaging Inc. Recognition system employing thermal sensor
US9870614B1 (en) 2016-07-25 2018-01-16 Sony Corporation Automatic 3D brain tumor segmentation and classification
JP6953128B2 (ja) * 2016-12-09 2021-10-27 キヤノン株式会社 画像処理装置、制御方法、及びプログラム
KR102054300B1 (ko) * 2017-11-22 2019-12-10 (주)스냅스 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2917781B2 (ja) * 1993-12-15 1999-07-12 大日本スクリーン製造株式会社 画像デザイン装置
JP2000270198A (ja) 1999-03-17 2000-09-29 Noritsu Koki Co Ltd 画像処理方法及び写真プリントの処理方法
US7289132B1 (en) * 2003-12-19 2007-10-30 Apple Inc. Method and apparatus for image acquisition, organization, manipulation, and publication
US20030174869A1 (en) * 2002-03-12 2003-09-18 Suarez Anthony P. Image processing apparatus, image processing method, program and recording medium
JP4315344B2 (ja) * 2003-11-27 2009-08-19 富士フイルム株式会社 画像編集装置および方法並びにプログラム
JP4455302B2 (ja) * 2003-12-25 2010-04-21 富士フイルム株式会社 画像編集装置および方法並びにプログラム
JP2006287917A (ja) * 2005-03-08 2006-10-19 Fuji Photo Film Co Ltd 画像出力装置、画像出力方法、および画像出力プログラム
JP2006293782A (ja) * 2005-04-12 2006-10-26 Fuji Photo Film Co Ltd 画像処理装置及び画像処理プログラム
JP2007026246A (ja) * 2005-07-20 2007-02-01 Fujifilm Holdings Corp アルバム作成装置及びアルバム作成プログラム
JP2007104359A (ja) * 2005-10-05 2007-04-19 Fujifilm Corp 画像レイアウト装置および方法並びにプログラム

Also Published As

Publication number Publication date
US8139826B2 (en) 2012-03-20
US20080304718A1 (en) 2008-12-11
JP2008305275A (ja) 2008-12-18
US8571275B2 (en) 2013-10-29
US20120148121A1 (en) 2012-06-14

Similar Documents

Publication Publication Date Title
JP4998995B2 (ja) アルバム作成装置および方法ならびにプログラム
US10958796B2 (en) Image processing apparatus, image processing method, and storage medium
JP4800104B2 (ja) アルバム作成装置、アルバム作成方法、及びプログラム
JP5686673B2 (ja) 画像処理装置、画像処理方法およびプログラム
US10573041B2 (en) Rear image candidate determination device, rear image candidate determination method, and rear image candidate determination program
EP2919154B1 (en) Image processor, important person determination method, image layout method as well as program and recording medium
US8903200B2 (en) Image processing device, image processing method, and image processing program
JP4850818B2 (ja) 画像処理装置およびその方法
US7848588B2 (en) Method and apparatus for judging direction of blur and computer-readable recording medium storing a program therefor
JP5981789B2 (ja) 画像処理装置、画像処理方法およびプログラム
EP1701308A2 (en) Image layout apparatus, image layout method and image layout program
US11810232B2 (en) System and method for generating a digital image collage
JP2010072934A (ja) アルバム作成装置及びアルバム作成方法
US20070071319A1 (en) Method, apparatus, and program for dividing images
JP2005086516A (ja) 撮像装置、印刷装置、画像処理装置およびプログラム
US20090244608A1 (en) Image-Output Control Device, Method of Controlling Image-Output, Program for Controlling Image-Output, and Printing Device
JP2010074405A (ja) 画像処理装置および画像処理方法
US20070076258A1 (en) Album creating system, album creating method and creating program
US8031226B2 (en) Image output apparatus, image output method, image output program, image trimming apparatus, image trimming method, and image trimming program
JP6197063B2 (ja) 画像処理装置、重要人物判定方法、画像レイアウト方法ならびにプログラムおよび記録媒体
JP2008140107A (ja) 画像処理装置、画像処理方法、制御プログラム及び記録媒体
JP2006180403A (ja) 情報処理装置
JP5009864B2 (ja) 候補画像表示方法および装置ならびにプログラム
US10402683B2 (en) Image display control system, image display control method, and image display control program for calculating evaluation values of detected objects
JP5953294B2 (ja) 画像利用商材作成装置、画像利用商材作成方法、画像利用商材作成プログラムおよびその記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100218

RD15 Notification of revocation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7435

Effective date: 20110406

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120417

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120510

R150 Certificate of patent or registration of utility model

Ref document number: 4998995

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150525

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees