JP2019191830A - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP2019191830A
JP2019191830A JP2018082563A JP2018082563A JP2019191830A JP 2019191830 A JP2019191830 A JP 2019191830A JP 2018082563 A JP2018082563 A JP 2018082563A JP 2018082563 A JP2018082563 A JP 2018082563A JP 2019191830 A JP2019191830 A JP 2019191830A
Authority
JP
Japan
Prior art keywords
image
template
determination
determined
determination condition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018082563A
Other languages
English (en)
Other versions
JP6938422B2 (ja
Inventor
正明 大林
Masaaki Obayashi
正明 大林
寛康 國枝
Hiroyasu Kunieda
寛康 國枝
堀 信二郎
Shinjiro Hori
信二郎 堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018082563A priority Critical patent/JP6938422B2/ja
Priority to US16/373,778 priority patent/US10958796B2/en
Publication of JP2019191830A publication Critical patent/JP2019191830A/ja
Application granted granted Critical
Publication of JP6938422B2 publication Critical patent/JP6938422B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00185Image output
    • H04N1/00196Creation of a photo-montage, e.g. photoalbum
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00167Processing or editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003Arrangements for executing specific machine instructions
    • G06F9/3004Arrangements for executing specific machine instructions to perform operations on memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Processing Or Creating Images (AREA)
  • Document Processing Apparatus (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

【課題】テンプレートの類似を適切に判定してメリハリのあるレイアウト結果を提供すること。【解決手段】画像処理装置は、処理対象の見開きページに用いられる候補テンプレート群を、処理対象の見開きページに割り当てられる画像の枚数に応じて決定する第1の決定手段と、使用済みのテンプレートと、候補テンプレート群に含まれるテンプレートとが類似しているかを判定する判定条件を、画像の枚数またはテンプレートの数に基づいて決定する第2の決定手段と、判定条件に従って類似していると判定されたテンプレートを除くテンプレートから、処理対象の見開きページに用いられる使用テンプレートを決定する第3の決定手段と、処理対象の見開きページに割り当てられている前記画像を前記使用テンプレートにレイアウトするレイアウト手段と、を備える。【選択図】図12

Description

本発明は、見開きページに画像をレイアウトする技術に関する。
フォトアルバムを自動で作成する技術がある。フォトアルバムを作成する場合、見開きページ単位で所定のテンプレートに従って画像を自動的に配置する自動レイアウト処理が行われている。
各見開きページに使用されるテンプレートが画一的となってしまう場合、抑揚の無い単調なアルバムが作成されてしまう。特許文献1では、見開きページ単位に規則的変動性をもつよう、テンプレートの選択および画像の選択のうちの少なくとも一方の選択を制御する技術が記載されている。
特開2017−199961号公報
メリハリのあるレイアウトを実現するためには、例えば第1の見開きページで使用されたテンプレートに類似していないテンプレートが、第2の見開きページのテンプレートとして採用されることが好ましい。しかしながら、特許文献1では、類似性の判定方法を変更することについて考慮がなされていない。
本発明は、テンプレートの類似を適切に判定してメリハリのあるレイアウト結果を提供することを目的とする。
本発明の一態様に係る画像処理装置は、複数の画像を取得する取得手段と、前記取得した画像の中から各見開きページに画像を割り当てる割当手段と、処理対象の見開きページに用いられる候補テンプレート群を、前記処理対象の見開きページに割り当てられる前記画像の枚数に応じて決定する第1の決定手段と、レイアウトに使用済みのテンプレートと、前記決定した候補テンプレート群に含まれるテンプレートとが類似しているかを判定する判定条件を、前記処理対象の見開きページに対して割り当てられた画像の枚数または前記決定した候補テンプレート群に含まれるテンプレートの数に基づいて決定する第2の決定手段と、前記候補テンプレート群に含まれるテンプレートの中で、前記判定条件に従って類似していると判定されたテンプレートを除くテンプレートから、前記処理対象の見開きページに用いられる使用テンプレートを決定する第3の決定手段と、前記処理対象の見開きページに割り当てられている前記画像を前記使用テンプレートにレイアウトするレイアウト手段と、を備えることを特徴とする。
本発明によれば、テンプレートの類似を適切に判定してメリハリのあるレイアウト結果を提供することができる。
画像処理装置のハードウェアの構成を示すブロック図である。 アルバム作成アプリケーションのソフトウェアブロック図である。 アルバム作成アプリケーションが提供する表示画面を示す図である。 レイアウト処理を示すフローチャートである。 画像の解析情報を示す図である。 画像データ群のシーン分割の結果を示す図である。 シーン種別毎の平均値と標準偏差を示す図である。 画像データのレイアウトに使うテンプレート群を示す図である。 得点化の概要を説明する図である。 画像の選択を説明するための図である。 画像データのレイアウトに使うテンプレート群を示す図である。 レイアウト決定処理のフローチャートである。 レイアウト決定処理のフローチャートである。 フォト・オン・フォトを説明する図である。
以下、添付図面を参照して本発明の実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る本発明を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。なお、同一の構成要素には同一の参照番号を付して、説明を省略する。
<<実施形態1>>
本実施形態では、画像処理装置上でアルバム作成アプリケーションを動作させ、自動レイアウト機能により、アルバムの各見開きページのレイアウトを生成する処理を説明する。また、テンプレートの類似を適切に判定してメリハリのあるレイアウト結果を提供する処理を説明する。
<ハードウェア構成>
図1は、画像処理装置100のハードウェアの構成を示すブロック図である。なお、画像処理装置100としては、例えば、パーソナルコンピュータ(PC)、スマートフォン、およびタブレット等が挙げられる。本実施形態では、画像処理装置100は、PCであるものとする。CPU(中央演算装置/プロセッサ)101は、画像処理装置100を統括的に制御し、例えば、ROM102に記憶されたプログラムをRAM103に読み出して実行することにより、本実施形態の動作を実現する。図1では、CPU101は1つであるが、画像処理装置100は、複数のCPUを含んでいても良い。ROM102は、汎用的なROMであり、例えば、CPU101により実行されるプログラムが記憶されている。RAM103は、汎用的なRAMであり、例えば、CPU101によるプログラムの実行時に、各種情報を一時的に記憶するためのワーキングメモリとして用いられる。HDD(ハードディスク)104は、画像ファイルおよび画像解析の処理結果などを保持するデータベース、ならびに、アルバム作成アプリケーションにより用いられるテンプレートなどを記憶するための記憶媒体(記憶部)である。 ディスプレイ105は、ユーザインタフェース(UI)および画像のレイアウト結果などをユーザに表示する。キーボード106およびポインティングデバイス107は、ユーザからの指示操作を受け付ける。ディスプレイ105は、タッチセンサ機能を備えても良い。キーボード106は、例えば、ユーザが、ディスプレイ105に表示されたUI上に作成したいアルバムの見開きページ数を入力する際に用いられる。ポインティングデバイス107は、例えば、ユーザが、ディスプレイ105に表示されたUI上のボタンをクリックする際に用いられる。
データ通信部108は、有線や無線等のネットワークを介した外部の装置との通信を行う。データ通信部108は、例えば、自動レイアウト機能によりレイアウトされたデータを画像処理装置100と通信可能なプリンタやサーバに送信する。データバス109は、図1の各ブロック間を相互に通信可能に接続する。なお、レイアウトされたデータは、プリンタにおいて印刷される。
本実施形態におけるアルバム作成アプリケーションは、HDD104に保存され、ユーザがディスプレイ105に表示されているアプリケーションのアイコンをポインティングデバイス107によりダブルクリックすることによって起動する。
<アルバム作成アプリケーションの構成>
図2は、アルバム作成アプリケーション200のソフトウェアブロック図である。アルバム作成アプリケーション200は、画像処理装置100にインストールされると、画像処理装置100上で動作するOS(オペレーティングシステム)のトップ画面(デスクトップ)上に起動アイコンが表示される。ユーザがディスプレイ105に表示されている起動アイコンをポインティングデバイス107でダブルクリックすると、HDD104に保存されているアルバム作成アプリケーションのプログラムがROM102にロードされる。ROM102のプログラムがCPU101によりRAM103に読み出されて実行されると、アルバム作成アプリケーション200が起動し、CPU101が図2に示す各ブロックとして機能する。
アルバム作成条件指定部201は、ポインティングデバイス107を用いたユーザによるUI操作に応じたアルバム作成条件をレイアウト処理部216に出力する。アルバム作成条件には、例えば、アルバム作成に用いる画像データ群の指定、見開きページ数の指定、ユーザ情報の指定、テンプレートのデザインの指定、および画像補正条件の指定などが含まれる。
図3は、アルバム作成アプリケーション200が提供する表示画面301の一例を示す図である。アルバム作成条件指定部201は、例えば図3に示す表示画面301を通じてユーザによって指定された各種の条件を取得し、レイアウト処理部216にアルバム作成条件として出力する。
表示画面301は、ディスプレイ105に表示される画面である。ユーザは、表示画面301を介してアルバムの作成条件を指定する。表示画面301上のパスボックス302には、アルバム作成の対象となる画像データ群のHDD104中の保存場所(パス)が表示される。ユーザが、ポインティングデバイス107でのクリック操作により、フォルダ選択ボタン303を押下すると、アルバム作成の対象とする画像データ群を含むフォルダがツリー構成でユーザ選択可能に表示される。フォルダパス302には、ユーザにより選択された画像データ群を含むフォルダパスが表示される。図3の例では、フォルダを選択することで、アルバム作成の対象とする画像データ群を指定する例を説明したが、これに限られない。HDD104中の画像、あるいはHDD104中の指定されたフォルダの画像のサムネイルを表示し、ユーザが個別に指定した画像をアルバム作成の対象とする画像データ群としても良い。なお、ユーザが個別に画像を選択した場合、選択された画像の全てがアルバムに使用されても良い。
主人公指定アイコン304は、ユーザが主人公を指定するためのアイコンである。主人公指定アイコン304には、人物の顔画像がアイコンとして表示される。主人公指定アイコン304には、複数の異なる顔画像のアイコンが並んで表示される。ユーザは、ポインティングデバイス107でクリックすることで所望する主人公指定アイコン304を選択可能である。見開き数ボックス305は、ユーザからのアルバムの見開きページ数の設定を受け付けるUIである。ユーザは、キーボード106を介して見開き数ボックス305に直接数字を入力するか、ポインティングデバイス107を用いてリストから見開き数ボックス305に数字を入力する。
テンプレート指定アイコン306は、テンプレートのデザインの種類をユーザから受け付けるUIである。テンプレート指定アイコン306には、テンプレートのテイスト(ポップ調やシック調等)別にイラスト画像が表示される。テンプレート指定アイコン306には、複数のテンプレートアイコンが並んで表示される。ユーザは、ポインティングデバイス107でクリックすることで、所望するテンプレートアイコンを選択可能である。本実施形態では、1枚のテンプレートが、見開き1ページのレイアウトに用いられる。各テンプレートには、画像を配置するための画像配置枠(スロット)が含まれている。第1のデザインのテンプレートの集まりは、複数のテンプレート群から構成されている。例えば、第1のデザインのテンプレートの集まりには、画像スロットが1つ用の第1のテンプレート群、画像スロットが2つ用の第2のテンプレート群など、画像スロット数に応じたテンプレート群が含まれる。他のデザインのテンプレートの集まりについても同様である。
チェックボックス307は、ユーザからの画像補正のON/OFFの指定を受け付けるUIである。チェックが入った状態は、画像補正ONが指定された状態であり、チェックが入っていない状態は、画像補正OFFが指定された状態である。優先モード指定アイコン310は、ユーザが優先させたいモードを指定するためのアイコンである。優先モード指定アイコン310には、例えば人物、ペット、花がアイコンとして表示される。ユーザは、ポインティングデバイス107でクリックすることで、所望の優先モード指定アイコン310を選択可能である。
ユーザによりOKボタン308が押下されると、アルバム作成条件指定部201は、表示画面301上で指定されている内容を、ユーザによって設定されたアルバム作成条件として取得する。アルバム作成条件指定部201は、取得したアルバム作成条件を、アルバム作成アプリケーション200のレイアウト処理部216に出力する。表示画面301上のリセットボタン309は、表示画面301上の各設定情報をリセットするためのボタンである。
レイアウト処理部216は、自動レイアウト機能を実行する処理部である。レイアウト処理部216は、画像取得部202、画像変換部203、画像解析部204、画像分類部205、ユーザ情報入力部206、画像得点化部207、見開き数入力部208、見開き割当部209、画像選択部210を含む。また、テンプレート入力部211、画像レイアウト部212、画像補正条件入力部213、画像補正部214、レイアウト情報出力部215を含む。
図3の表示画面301で指定されたアルバム作成条件は、レイアウト処理部216の各部に伝達される。具体的には、パスボックス302に入力されているパスは、画像取得部202に伝えられる。主人公指定アイコン304で選択されている主人公の個人IDは、ユーザ情報入力部206に伝えられる。見開き数ボックス305に入力されている見開きページ数は、見開き数入力部208に伝えられる。テンプレート指定アイコン306で選択されているテンプレート情報は、テンプレート入力部211に伝えられる。画像補正チェックボックス307の画像補正のON/OFF指定は、画像補正条件入力部213に伝えられる。
次に、レイアウト処理部216の各部の処理を説明する。画像取得部202は、アルバム作成条件指定部201から指定された画像データ群をHDD104から取得する。画像変換部203は、画像取得部202で取得した画像データ群の各画像データを、所望の画素数および色情報を有する画像データに変換する。本実施形態では、短辺420画素の画素数でありsRGBの色情報を有する画像データ(解析画像データという)に変換する。
画像解析部204は、解析画像データから、特徴量の取得、顔検出、表情認識、個人認識、オブジェクト認識の各処理を実行し、処理の結果得られる情報を取得する。また、画像解析部204は、HDD104から取得した画像データに付随したデータの取得、例えばExif情報から撮影日時の取得を実行する。画像解析部204で得られた情報を総称して解析情報という。
画像分類部205は、画像取得部202で取得した画像データ群に対して、画像解析部204で得られた解析情報(例えば撮影日時情報、撮影枚数、検出した顔情報等)を用いて、シーン分割およびシーン種別分類を実行する。シーンとは、撮影シーンのことである。シーン分割とは、画像データ群を、シーンごとのサブ画像群に分割することである。シーン種別分類とは、各サブ画像群を、シーン種別に分類することである。例えば、シーンは、旅行、日常、および結婚式等のシーン種別に分類される。シーン種別が同一のシーンでも、例えば撮影日時が異なっている場合には、別のシーンになることがある。なお、後述するように、本実施形態では、1つのシーン(つまり、1つのサブ画像群)が、見開き1ページに対応する。詳細は後述する。
画像得点化部207は、画像データ群の各画像データに対してレイアウトに適した画像が高得点になるような得点付けを行う。例えば、画像得点化部207は、ユーザ情報入力部206で入力されたユーザ情報および優先モード、画像解析部で得られた解析情報、ならびに画像分類部205で得られた情報を用いて得点付けを行う。詳細は後述する。
ユーザ情報入力部206は、アルバム作成条件指定部201から指示された主人公のID(識別情報)を画像得点化部207に入力する。画像得点化部207は、ユーザ情報入力部206から入力された主人公IDが含まれる画像データに、より高い得点を付加するように構成されている。また、ユーザ情報入力部206は、アルバム作成条件指定部201から指示された優先モードを画像得点化部207に入力する。画像得点化部207は、指示された優先モードで指定された少なくとも1つ以上のオブジェクトが含まれる画像データに、より高い得点を付加するように構成されている。
見開き数入力部208は、アルバム作成条件指定部201から指定されたアルバムの見開きページ数を見開き割当部209に入力する。本実施形態では、見開きページごとにテンプレートが設定される。見開き1ページは、アルバムを作成した場合の2ページに相当する。アルバムを作成した場合には、見開きの綴じ部によって、見開き1ページが上下の2ページまたは左右の2ページに分かれることになる。
見開き割当部209は、見開き数入力部208に入力された見開きページ数に応じて画像データ群を分割し、画像データ群に含まれる各画像を各見開きページに割り当てる。見開き割当部209は、画像分類部205の分類結果および画像得点化部207の得点を参照し、必要に応じて調整を行い、各見開きページに画像を割り当てる。例えば、画像分類部205によって、画像データ群が、シーンごとのサブ画像群に分割される。見開きページ数と分割されたシーンの数とが一致していない場合には、シーンの分割方法を調整する等して、見開きページ数とシーンの数とを一致させる処理が行われる。つまり、1つのシーンが、見開き1ページに対応する調整が行われる。このため、画像データ群に含まれる各画像は、いずれかのシーンに含まれていることになり、いずれかの見開きページに配置される候補の画像となる。このように、見開き割当部209は、画像データ群の各画像を、見開きページのいずれかに割り当てる。
見開き割当部209は、画像選択部210を含む。画像選択部210は、見開き割当部209によって処理対象の見開きページに割り当てられたサブ画像群から、処理対象の見開きページに配置される画像を、画像得点化部207で付された得点に基づいて選択する。例えば、画像選択部210は、見開き割当部209で割り当てられた画像の枚数が、見開きページに対して設定されている使用枚数よりも多い場合、設定されている使用枚数分だけサブ画像群から画像を選択する。各見開きページに対して設定されている使用枚数は、アルバム作成条件指定部201によって指定されても良い。例えば、予めユーザが、各見開きページに使用する使用枚数を指定しても良いし、画像を多めに使用するか、少なめに使用するかを指定しても良い。あるいは、画像分類部205の分類結果および画像得点化部207の得点等に応じて各見開きページの使用枚数が決定されても良い。見開き割当部209が各見開きページに割り当てた画像の枚数、画像の得点の分布、テンプレートのデザインの傾向、その他の各種情報を用いて、各見開きページの使用枚数が決定されても良い。その他の方法で各見開きページの使用枚数が設定されて良い。
テンプレート入力部211は、アルバム作成条件指定部201から指定されたテンプレート情報に応じたテンプレート群を画像レイアウト部212に入力する。
画像レイアウト部212は、アルバムの各見開きページに画像を配置するレイアウトを決定する。画像レイアウト部212は、見開き割当部209で割り当てられた(画像選択部210で選択された)画像に適したテンプレートを、テンプレート入力部211から入力された複数のテンプレートから選択し、レイアウトを決定する。例えば、第1の見開きページに設定されている使用枚数が1枚の場合、即ち、第1の見開きページに割り当てられている画像の枚数が1枚の場合を想定する。この場合、画像レイアウト部212は、テンプレート入力部211から入力された1枚用のテンプレート群の中から、テンプレートを決定する。第1の見開きページに割り当てられている画像の枚数が3枚の場合、画像レイアウト部212は、入力された3枚用のテンプレート群の中から、見開き割当部209で割り当てられた(画像選択部210で選択された)画像に適したテンプレートを決定する。
レイアウト情報出力部215は、画像レイアウト部212が決定したレイアウトに従って、ディスプレイ105に表示する為のレイアウト情報を出力する。レイアウト情報は、例えば、選択されたテンプレートに画像選択部210により選択された画像データをレイアウトしたビットマップデータである。レイアウト情報は、データ通信部108を通じて外部のプリンタに伝達されても良い。
画像補正条件入力部213は、アルバム作成条件指定部201から指定された画像補正のON/OFF条件を画像補正部214に入力する。画像補正部214は、覆い焼き補正(輝度補正)、赤目補正、またはコントラスト補正の少なくとも1つを実行する。画像補正部214は、画像補正条件がONの場合、画像データに対して補正を実行し、画像補正条件がOFFの場合、補正を実行しない。尚、画像補正部214は、画像変換部203から入力された画像データに対して補正のON/OFFに従って、補正を実行する。画像変換部203から画像補正部214に入力される画像データの画素数は、画像レイアウト部212で決定したレイアウトのサイズに合わせて変更可能である。
<レイアウト処理の流れ>
図4は、アルバム作成アプリケーション200のレイアウト処理部216の処理を示すフローチャートである。図4に示すフローチャートは、例えば、CPU101がHDD104またはROM102に記憶されたプログラムをRAM103に読み出して実行することにより実現される。あるいはまた、図4におけるステップの一部または全部の機能をASICや電子回路等のハードウェアで実現してもよい。なお、各処理の説明における記号「S」は、当該フローチャートにおけるステップであることを意味する。
S401では、画像変換部203は、解析画像データを生成する。画像変換部203は、画像取得部202で取得された画像データ群の各画像データを、所望の画素数であり所望の色情報を有する解析画像データに変換する。本実施形態では、短辺420画素でありsRGBの色情報を有する解析画像データに変換する。
S402では、画像解析部204は、画像特徴量を取得する。画像解析部204は、画像取得部202で取得された各画像データに付随する、例えばExif情報から撮影日時を取得する。また、画像解析部204は、S401で生成された解析画像データから特徴量を取得する。特徴量としては、例えば、ピント量が挙げられる。エッジの検出方法として一般的にソーベルフィルタが知られている。ソーベルフィルタでエッジ検出を行い、エッジの始点と終点の輝度差を、始点と終点の距離で割れば、エッジの傾きが算出される。画像中のエッジの平均傾きを算出した結果から、平均傾きが大きい画像は、平均傾きが小さい画像よりもピントが合っているとみなすことができる。そして、傾きに対して異なる値の複数の閾値を設定し、どの閾値以上かを判定することにより、ピント量を判定可能である。本実施形態では、異なる2つの閾値を予め設定しておく。例えば、第1の閾値以上の場合、アルバムに採用したいピントの傾きである(GOOD)とする。第1の閾値未満であり第2の閾値以上の場合、許容可能なピントの傾きである(NORMAL)とする。第2の閾値未満の場合、許容不可能な傾きである(BAD)とする。各閾値は、例えば、アルバム作成アプリケーション200の作成元等により提供されても良いし、ユーザインタフェース上で設定可能としても良い。
S403では、画像解析部204は、S401で生成された解析画像データに対して、顔検出を実行する。ここで、顔検出の処理には、公知の方法を用いることができ、例えば、複数用意した弱識別器から強識別器を作成するAdaboostが用いられる。本実施形態では、Adaboostにより作成した強識別器により人物(オブジェクト)の顔画像が検出される。画像解析部204は、顔画像を抽出するとともに、検出した顔画像の位置の左上座標値と右下座標値を取得する。この2種の座標を持つことにより、画像解析部204は、顔画像の位置と顔画像のサイズとを取得可能である。
S404では、画像解析部204は、S403で検出した顔画像と、顔辞書データベースに個人ID毎に保存されている代表顔画像との類似性を比較することにより、個人認識を行う。画像解析部204は、類似性が閾値以上であり、かつ類似性が最も高いIDを、検出した顔画像のIDとする。尚、類似性が閾値未満の場合、画像解析部204は、抽出した顔画像を新規の顔として新規の個人IDとして顔辞書データベースに登録する。顔辞書データベースは、アルバム作成アプリケーション200に備えられているものとする。
S405では、画像解析部204は、S401で生成された解析画像データに対して、オブジェクト認識を実行する。ここで、オブジェクト認識の処理には、公知の方法を用いることができる。本実施形態では、DeepLearningにより作成した判別器によりオブジェクトが認識される。画像解析部204は、オブジェクト画像を認識することで、人物、犬や猫などのペット、花、食べ物、建物、または置物などのオブジェクトの種類を取得可能となる。
図5は、各画像の解析情報をリスト化した図である。画像解析部204は、S402〜S405で取得した解析情報を、図5に示すように各画像を識別するID毎に区別して、RAM103等の記憶領域に記憶する。例えば、図5に示すように、S402で取得された撮影日時情報およびピント判別結果、S403で検出された顔画像の数および位置情報、ならびにS405で認識されたオブジェクトの種類が、テーブル形式で記憶される。尚、顔画像の位置情報は、S404で取得された個人ID毎に区別して記憶される。
S406でアルバム作成アプリケーション200は、画像取得部202で取得された画像データ群の全画像データに対してS401〜S405の処理が終了したか否かを判定する。終了していない場合、S401からの処理を繰り返す。終了している場合、S407に進む。
S407では、画像分類部205は、シーン分割を実行する。画像分類部205は、S402で取得した撮影日時情報から算出した画像の撮影時間差に基づいて、画像取得部202で取得された画像データ群を複数のシーンに分割する。即ち、画像データ群を複数のサブ画像群に分割する。本実施形態では、例えば、画像データ間に撮影していない日が存在する場合、その部分を基準として分割が行われる。分割は、他の基準により行われても良い。例えば、撮影日が連続する場合にも分割が行われる場合、時間差が16時間以上空いていれば、その部分を基準として分割が行われる。また、16時間未満の場合は、連続する各日の最初の撮影から最後の撮影までの時間差が4時間未満であれば、分割が行われる。4時間以上の場合は、連続する各日の撮影枚数が50枚未満なら分割が行われ、50枚以上なら分割は行われない。図6(a)は、上記のシーン分割方法で画像データ群が8個のサブ画像群に分割された結果の一例を示す図である。
S408では、画像分類部205は、シーン種別分類を実行する。本実施形態では、画像分類部205は、例えば、シーン分割された各サブ画像群を、旅行、日常、セレモニーのシーン種別のうちのいずれかの種別のシーンに分類する。ここでは説明のために3つの種別のシーンを例に挙げているが、これに限られるものではない。
本実施形態では、予めユーザによって、旅行、日常、およびセレモニーの各シーン種別であると判断されている複数の画像データが指定され、アルバム作成アプリケーション200において各シーンの特徴量が求められているものとする。例えば、図4のレイアウト処理の実行前に、アルバム作成条件指定部201は、不図示のユーザインタフェース画面上で、ユーザが旅行シーンであると判断した複数の画像データの指定を受け付ける。そして、画像解析部204は、それらの画像データについて、特徴量を取得する。ここで、取得される特徴量は、例えば、撮影期間、撮影枚数、撮影人数である。撮影期間は、指定を受け付けた複数の画像データの最初の撮影から最後の撮影までの時間差である。撮影枚数は、指定を受け付けた複数の画像データの撮影枚数である。撮影人数は、撮影された顔の数である。その結果、ユーザが旅行シーンであると判断した複数の画像データから成る画像群の撮影期間、撮影枚数、および撮影人数の特徴量が取得される。画像解析部204は、複数の画像データ群から取得された特徴量に基づいて、撮影期間の平均値と標準偏差、撮影枚数の平均値と標準偏差、撮影人数の平均値と標準偏差を求める。他のシーン種別についても同様の処理が行われているものとする。
図7は、上記の求められている各平均値と各標準偏差を示している。画像解析部204は、これらの値をROM102等の記憶領域に予め記憶しておく。または、アルバム作成アプリケーション200のプログラムに予め組み込まれるようにしても良い。
図4のS408の説明に戻る。S408で、画像分類部205は、シーン分割された各サブ画像群の撮影期間、撮影枚数、撮影人数の各特徴量の得点を算出する。画像分類部205は、各サブ画像群の撮影期間、撮影枚数、および撮影人数の得点を、図7に示すシーン種別毎の平均値および標準偏差を用いて式(1)により算出する。
得点 = 50−|10×(平均値−特徴量)/標準偏差| ・・・式(1)
さらに、画像分類部205は、各サブ画像群の撮影期間の得点、撮影枚数の得点、および撮影人数の得点の平均得点を式(2)により算出する。
平均得点 = (撮影期間の得点+撮影枚数の得点+撮影人数の得点)/特徴量項目数・・・式(2)
算出の結果、各サブ画像群に対して、旅行、日常、セレモニーのシーン種別毎の平均得点が算出される。画像分類部205は、各サブ画像群を、シーン種別毎の平均得点のうち最高得点に対応するシーン種別に分類する。ここで、同点のシーン種別となった場合には、予め定められたシーン種別の優先順位に従って分類する。例えば、本実施形態では、日常>セレモニー>旅行の優先順位が定められており、日常シーンの優先度が最も高い。
具体例を説明する。図6(a)のシーン分割された後のサブ画像群(5)が、撮影期間が36時間、撮影枚数が300枚、撮影人数が1.7人である場合を想定する。上記の式(1)及び式(2)により算出された旅行シーンの平均得点は45.32、日常シーンの平均得点は18.38、セレモニーシーンの平均得点は−29.92となる。従って、サブ画像群(5)のシーン種別は、旅行シーンに分類される。画像分類部205は、分類が行われたシーン(サブ画像群)に対して、識別可能なようにシーンIDを付与して管理する。
S409では、S407で分割された全シーンに対してS408のシーン種別分類が終了したか否かが判定される。終了していないと判定された場合、S408からの処理を繰り返す。終了していると判定された場合、処理はS410に進む。
S410では、画像得点化部207は、主人公設定を実行する。主人公設定は、自動と手動の2種類の設定方法のいずれかにより行われる。画像得点化部207は、S404で実行された個人認識結果と、S406で実行されたシーン分割の結果とから、画像データ群に登場する各個人IDの回数、各シーンに登場する各個人ID回数、各個人IDが登場するシーン回数等を取得可能である。画像得点化部207は、取得したそれらの情報から、ユーザ指定によらず自動で主人公を設定することができる。
また、ユーザが主人公指定アイコン304を指定している場合、ユーザ情報入力部206は、その指定されている個人IDを画像得点化部207に伝える。ユーザにより個人IDが指定されている場合、画像得点化部207は、ユーザにより指定された個人IDを主人公IDとして設定する。この設定を手動設定と呼ぶ。
S411では、画像得点化部207は、優先モード設定を実行する。優先モード設定も、主人公設定と同様に、自動と手動の2種類の設定方法のいずれかにより行われる。画像得点化部207は、S405で実行されたオブジェクト認識結果から、画像データ群に登場するオブジェクト種類の回数、各シーンに登場するオブジェクト種類の回数、オブジェクト種類が登場するシーン回数等を取得可能である。画像得点化部207は、取得したそれらの情報から、ユーザ指定によらず自動で優先モードを設定することができる。また、S410と同様に、ユーザにより指定された優先モードを手動設定することもできる。
S412では、画像得点化部207は、得点化を実行する。得点化とは、画像取得部202で取得された画像データ群の各画像に、後述の観点で評価した得点を付与する(スコアリング)ことである。各画像に付与された得点は、レイアウトに用いられる画像データの選択時に参照される。また、本実施形態で用いるテンプレートには、画像を配置するスロットとして、メインスロットと、サブスロットとが含まれている。メインスロットの方が、サブスロットよりもサイズが大きい。画像得点化部207は、メインスロット用の得点とサブスロット用の得点とを各画像に付与する。 図8は、画像データのレイアウトに使うテンプレート群を説明する図である。図8(a)〜(p)は、それぞれテンプレートを示している。図8(a)〜(p)の各テンプレートには、3つの画像スロット(画像をレイアウトする枠)が含まれている。即ち、図8(a)〜(p)は、3枚用のテンプレート群である。テンプレート群に含まれているテンプレートのそれぞれが、見開き1ページに対応している。テンプレート801は1枚のテンプレートであり、スロット802はメインスロットを示し、スロット803と804とはサブスロットを示す。メインスロット802は、テンプレート801内でメインとなるスロットであり、サブスロット803とサブスロット804よりもサイズが大きい。画像得点化部207は、各画像データに対して、メインスロット用の得点とサブスロット用の得点の両方を付与する。テンプレートには、画像を配置するスロットの数、幅、高さ、見開きにおける位置、スロット間の重なり順を示すレイヤー情報、テンプレート内でスロットを識別するためのスロット番号が含まれる。
図9は、得点化の概要を説明する図である。図9(a)は、旅行、日常、セレモニーの各シーン種別において、アルバムに採用する画像の特徴を示した図である。メインスロットの画像の特徴とサブスロットの画像の特徴とが、各シーン種別に対して規定されている。本実施形態では、シーン種別の分類で説明した場合と同様に、予めユーザが、各シーン種別のメインスロット向きとサブスロット向きの特徴に適合すると判断した複数の画像データを指定しているものとする。例えば、図4のレイアウト決定処理の前に、アルバム作成条件指定部201は、不図示のユーザインタフェース画面上でユーザが旅行シーンのメインスロット向き(又は、サブスロット向き)であると判断した複数の画像データの指定を受け付ける。画像解析部204は、指定された各画像データの顔の数、顔の位置、顔のサイズの特徴量を取得する。その結果、ユーザが例えば旅行シーンのメインスロット向き(又は、サブスロット向き)であると判断した複数の画像データそれぞれについて、顔数、顔の位置、顔サイズの特徴量が取得される。そして、画像解析部204は、顔数の平均値と標準偏差、顔の位置の平均値と標準偏差、顔サイズの平均値と標準偏差を求める。画像解析部204は、各シーン各スロット種類(メインスロットとサブスロット)について、上記のように、各特徴量の統計値として平均値と標準偏差を求める。画像解析部204は、これらの値をROM102等の記憶領域に予め記憶しておく。または、アルバム作成アプリケーションのプログラムに予め組み込まれるようにしても良い。図9(a)は、顔数の平均値と標準偏差、顔の位置の平均値と標準偏差、顔サイズの平均値と標準偏差に応じた特徴を示したものである。
画像得点化部207は、サブ画像群のシーン種別に応じて、図9(a)の特徴に近い画像に高得点を付与する。画像得点化部207は、S407のシーン種別分類の結果から、サブ画像群が属するシーン種別を取得可能である。画像得点化部207は、処理対象のサブ画像群の画像のシーン種別に対応する顔数、顔の位置、および顔サイズの平均値および標準偏差を取得する。また、処理対象の画像データの主人公IDの顔数、顔位置、および顔サイズの各特徴量を取得する。そして、取得した情報を用いて、式(3)及び(4)により、平均得点を算出する。
得点 = 50−|10×(平均値−特徴量)/標準偏差| ・・・式(3)
平均得点 = (顔数の得点+顔位置の得点+顔サイズの得点)/特徴量項目数 ・・・式(4)
画像得点化部207は、画像取得部202で取得した各画像データについて、メインスロット用とサブスロット用の両方の平均得点を求める。なお、アルバムに用いる画像はピントが合っている方が好ましいので、図5に示すピントの特徴量がGOODである画像IDの画像データに対しては所定の得点を加算するようにしても良い。図9(b)は、上記の得点化による得点結果の一例を示しており、各画像IDに対して、メインスロットとサブスロットについて得点化されている。例えば、図9(b)では、画像ID1は、メインスロット用として20点が付与され、画像ID2は、メインスロット用として45点が付与されている。これは、つまり、メインスロット用としては、画像ID1よりも画像ID2の方がユーザの判断基準により近いということを表している。
図4の説明に戻る。S413では、画像得点化部207は、画像取得部202で取得された画像データ群の全て画像データに対してS412の画像得点化が終了したか否かを判定する。終了していないと判定された場合、S412からの処理を繰り返す。終了していると判定された場合、S414に進む。
本実施形態では、見開き1ページに対して1つのテンプレートが使用される。また、分割されたシーンの1つが、見開き1ページに対応する。このため、見開きページ数と、シーンの数(サブ画像群の数)とを一致させる処理が行われる。
S414では、見開き割当部209は、S407でのシーン分割の分割数が見開き数入力部208から入力されるアルバムの見開きページ数と同じであるか否かを判定する。同じでないと判定された場合、S415に進む。同じであると判定された場合、S418に進む。例えば、図6(a)に示すようにシーン分割数(サブ画像群の数)が8個であり、見開き数入力部208の入力数が「8」である場合、S418に進む。
S415では、見開き割当部209は、S406でのシーン分割の分割数(サブ画像群の数)が見開き数入力部208から入力される見開きページ数より少ないか否かを判定する。少ないと判定された場合、S416に進む。図6(a)に示すようにシーン分割数が8個であり、見開き数入力部208の入力数が「10」である場合、S416に進む。少なくない(多い)と判定された場合、S417に進む。
S416では、見開き割当部209は、サブシーン分割を実行する。サブシーン分割とは、分割されたシーンを更に細分割することを表す。図6(a)に示すようにシーン分割数が8個であり、指定されたアルバムの見開きページ数が「10」の場合で説明する。図6(b)は、図6(a)をサブシーン分割した結果を示す。破線矢印の箇所で分割したことで、分割数を「10」に変更している。
サブシーン分割の基準について説明する。図6(a)の各シーンの中で、画像枚数が多い分割箇所(シーン)が検索される。ここでは、分割数を「8」から「10」に2箇所増やすために、画像枚数が多い2箇所が決定される。図6(a)では、画像枚数が最も多いのは、サブ画像群(5)である。次いで多いのは、サブ画像群(1)およびサブ画像群(2)である。サブ画像群(1)およびサブ画像群(2)は、同じ枚数である。サブ画像群(2)の方が最初の画像から最後の画像の時間差が大きい。よって、見開き割当部209は、サブ画像群(2)を分割対象とし、サブ画像群(5)とサブ画像群(2)とをそれぞれ分割する。
まず、サブ画像群(2)の分割を説明する。サブ画像群(2)には画像枚数の山が2つあり、この2つは撮影日が違うので、その部分に対応する図6(b)の破線矢印の箇所で分割する。次に、サブ画像群(5)の分割を説明する。サブ画像群(5)には画像枚数の山が3つあり、3日連続である。撮影日が変わる箇所が2箇所あるが、分割後の枚数差が小さくなるように、図6(b)の破線矢印の箇所で分割する。以上のように、分割数を8から10にする。ここでは、撮影日の異なる箇所で分割したが、画像枚数が多い箇所が単一日である場合、単一日の中で時間差が最大の箇所で分割するようにしても良い。
S417では、見開き割当部209は、シーン統合を実行する。シーン統合とは、分割されたシーンを統合することを表す。図6(c)は、図6(a)をシーン統合した結果を示す。破線の箇所を統合したことで、分割数を「6」に減らしている。
統合の基準について説明する。図6(a)の分割の中で、画像枚数が少ない分割箇所が検索される。ここでは、分割数を「8」から「6」に2箇所減らすために、画像枚数が少ない2箇所を決定する。図6(a)では、最も画像枚数が少ない画像群は、サブ画像群(8)である。次いで少ないのは、サブ画像群(3)およびサブ画像群(7)である。サブ画像群(3)およびサブ画像群(7)は同じ枚数である。但し、サブ画像群(7)に隣接するサブ画像群(8)が統合対象であるので、サブ画像群(3)を統合対象とする。結果、サブ画像群(8)とサブ画像群(3)それぞれの統合が行われる。
まず、サブ画像群(3)の統合を説明する。サブ画像群(3)の前後のサブ画像群(2)とサブ画像群(4)との時間差を比較すると、サブ画像群(4)との時間差の方が小さい。従って、図6(c)の破線箇所に示すように、サブ画像群(3)をサブ画像群(4)に統合する。次に、サブ画像群(8)の統合を説明する。サブ画像群(8)は、後続の画像群がないので、図6(c)の破線箇所に示すように、前のサブ画像群(7)と統合される。
S418では、見開き割当部209は、見開き割当を実行する。S414〜S417によって、シーン分割数と指定された見開きページ数とは同じとなっている。見開き割当部209は、撮影日時順に先頭の分割シーンから順に各シーンを各見開きページに割り当てる。
S419では、画像選択部210は、画像選択を実行する。即ち、各シーンのサブ画像群の中から、対応する見開きページに設定されている使用枚数分の画像を選択する。画像選択部210は、サブ画像群の中から、例えばスコアの高い順に、使用枚数分の画像を選択する。以下、ある見開きページに割り当てられたサブ画像群から画像を4枚選択する例を、図10を参照しながら説明する。
図10(a)に示すスタート〜エンドの区間は、見開きページに割り当てられたサブ画像群の、最初の画像の撮影日時から最後の画像の撮影日時までの時間差を示している。図10(b)を参照しながら、1枚目を選択する方法を説明する。ここでは、4枚用のテンプレート群に含まれている各テンプレートには、1枚のメインスロットが含まれていると想定する。この場合、1枚目として、メインスロット用の画像が選択される。図10(b)に示す撮影期間に対応する複数の画像のうち、S412で付与されたメインスロット用の得点が最高点の画像が、1枚目の画像として選択される。2枚目以降の画像としては、サブスロット用の画像が選択されることになる。
本実施形態では、撮影期間の一部に集中しないように画像選択が行われる。図10(c)に示すように、撮影期間を2分割する。次に、図10(d)に示すように、1枚目が選ばれていない実線の撮影期間から2枚目が選択される。図10(d)の実線の撮影期間に対応する複数の画像のうち、サブスロット用の得点が最高点の画像が2枚目の画像として選択される。
次に、図10(e)に示すように、図10(d)の各分割分の撮影期間を2分割する。そして、図10(f)に示すように、1枚目と2枚目のいずれの画像も選ばれていない実線の撮影期間に対応する複数の画像のうち、サブスロット用の得点が最高点の画像が3枚目の画像として選択される。
画像データの選択対象の撮影期間に画像が存在せず、選択できない場合について、4枚目の選択を例として説明する。図10(g)は、まだ画像が選択されていない斜線の撮影期間から4枚目を選択しようとするが、この斜線の撮影期間には画像データが存在しない例を示す。この場合、図10(h)に示すように、各分割分の撮影期間を2分割する。次に、図10(i)に示すように、1〜3枚目が選ばれていない実線の撮影期間に対応する複数の画像のうち、サブスロット用の最高点の画像が4枚目の画像として選択される。
図4に戻り、説明を続ける。S420では、画像レイアウト部212は、画像レイアウトの決定を行う。画像レイアウト部212は、処理対象の見開きページで使用される画像枚数に応じたテンプレート群を取得する。そして、取得したテンプレート群の中から、S419で選択された画像に適したテンプレートを決定し、決定したテンプレートに従って画像をレイアウトする。具体例を説明する。処理対象の見開きページで使用される画像枚数は、3枚である場合を想定する。この場合、画像レイアウト部212は、3枚用のテンプレート群の中から処理対象の見開きページで使用するテンプレートを決定する。図8(a)〜(p)は、3枚用のテンプレートであり、テンプレートのスロット数は「3」である。ここで、処理対象の見開きページにおいて選択されている画像3枚の画像の向き(縦方向か横方向か)を、撮影日時について並べると、図8(q)であるとする。ここでは、画像805がメインスロット用であり、画像806と画像807とがサブスロット用である。
本実施形態では、テンプレートの左上に撮影日時のより古い画像がレイアウトされ、右下に撮影日時のより新しい画像をレイアウトされる。図8(q)では、メインスロット用の画像805は撮影日時が一番新しく、かつ、縦画像であるので、図8(i)〜(l)のテンプレートが候補となる。また、サブスロット用の古い方の画像806が縦画像であり、新しい方の画像807が横画像であるので、結果、図8(j)のテンプレートが、選択された3つの画像データに最も適したテンプレートとして決定され、レイアウトが決まる。
このように、図8の例では、処理対象の見開きページに割り当てられ選択された画像の向き(アスペクト比と言っても良い)と、その画像の撮影日時とに基づいて、テンプレート群の中から、テンプレートが決定される。なお、後述するように、本実施形態では、メリハリのつけたテンプレートが選ばれる処理を行うことになる。メリハリのつけたテンプレートを選択する場合には、図8で説明した例とは異なる方法で、テンプレートが選択され、レイアウトが決定されることになる。図8の例は、例えばメリハリのつけたテンプレートを選択しなくても良い見開きページ、例えば最初の見開きページおけるテンプレートの選択方法である。メリハリのつけたテンプレートを選択する処理については後述する。
S421では、画像補正部214は、画像補正を実行する。画像補正部214は、画像補正条件入力部213から画像補正ONが入力された場合、画像補正を実行する。画像補正として、例えば、覆い焼き補正(輝度補正)、赤目補正、またはコントラスト補正のうちの少なくとも1つが実行される。画像補正部214は、画像補正条件入力部213から画像補正OFFが入力された場合、画像補正を実行しない。画像補正は、例えば、短辺1200画素で、sRGBの色空間にサイズが変換された画像データに対しても実行可能である。
S422では、レイアウト情報出力部215は、レイアウト情報を作成する。レイアウト情報出力部215は、S420で決定されたテンプレートの各スロットに対して、S421の画像補正が実行された画像データをレイアウトする(配置する)。このとき、レイアウト情報出力部215は、スロットのサイズ情報に合わせてレイアウトする画像データを変倍してレイアウトする。そして、レイアウト情報出力部215は、テンプレートに画像データをレイアウトしたビットマップデータを生成する。
S423では、S419〜S422の処理が全ての見開きページに対して行われたか否かが判定される。未処理の見開きページがあると判定された場合、S419からの処理を繰り返す。全ての見開きページの処理が終了していると判定された場合、図4のレイアウト処理は終了する。
<メリハリをつけたレイアウトの決定処理>
次に、S420のレイアウトを決定する処理において、メリハリをつけたレイアウトを決定する処理を説明する。本実施形態では、メリハリをつけたテンプレートを用いることで、メリハリをつけたレイアウトを実現する。
処理の詳細を説明する前に、課題の一例とメリハリをつけたテンプレートを決定することによって、メリハリをつけたレイアウトが実現されることを補足説明する。メリハリのあるレイアウトを実現するためには、例えば第1の見開きページで使用されたテンプレートに類似していないテンプレートが、第2の見開きページのテンプレートとして採用されることが好ましい。しかしながら、テンプレートのバリエーションが限られる場合、見開きページごとにメリハリのあるレイアウトが実現されない場合がある。例えば、見開きページに割り当てられる画像の枚数が少ない場合、選択可能なテンプレートのバリエーションが限られてしまう。このため、毎回同じ判定基準で類似性を判定すると、第1の見開きページで使用されたテンプレートに類似していないテンプレートを自動的に選択することができない場合がある。この結果、見開きページごとにメリハリのあるレイアウトが実現されないおそれがあった。フォトアルバムの作成に際して、各見開きページに用いられる各テンプレートが画一的なものである場合には、抑揚の無い単調なアルバムが作成されてしまう。例えば既に作成済みの第1の見開きページのレイアウトに用いられたテンプレートに類似しているテンプレートを除外したテンプレートの中から、第2の見開きページのレイアウトに用いるテンプレートを決定することが好ましい。そこで、レイアウト決定処理においては、使用済みのテンプレートと、候補テンプレート群に含まれている候補テンプレートとの類似性が判定される。ここで、テンプレートのバリエーションが少ない(例えば所定数未満)場合、バリエーションが多い(例えば所定数以上)場合と同等の判定基準で類似性を判定すると、適切なテンプレートが選択されなくなる場合がある。以下、説明する。
見開きページに用いられる画像の枚数が所定数(例えば2枚)以上の場合には、テンプレートのバリエーションも、画像の枚数に応じて増える。このような場合のテンプレートの類似性の判定条件を、第1の判定条件とする。第1の判定条件では、例えばテンプレート内の各画像の相対位置を考慮した各画像のアスペクト比によって、テンプレートの類似性の判定が行われる。つまり、テンプレートが類似しているか否かは、テンプレートの各画像スロットのアスペクト比が類似しているか否かで判定することができる。第1の見開きページの後の第2の見開きページでは、アスペクト比が類似していると判定されたテンプレート以外のテンプレートからテンプレートが決定されるので、メリハリのつけたレイアウトが行われることになる。
一方で、テンプレートのバリエーションが限られる場合がある。例えば、処理対象の見開きページに割り当てられた画像の枚数が1枚などの場合である。
図11は、1枚用のテンプレート群の例を示す図である。1枚用のテンプレート群の場合、図8で説明した3枚用のテンプレート群に比べて、テンプレートの数が少ない。画像スロットの数が少ないほど、テンプレートのデザインの自由度は低くなるため、テンプレートの数も少なくなる。なお、図8および図11の各テンプレートは、一例であり、図示する数に限られるものではない。
図11の場合には、例えば縦方向の画像が配置されるスロットは、テンプレート1110のスロット1111と、テンプレート1120のスロット1121だけである。レイアウト済みの第1の見開きページでテンプレート1110が使用されていた場合、第1の判定条件と同じ判定条件でテンプレートの類似性を判定すると、画像スロットのアスペクト比が同じテンプレート1110、1120は、類似すると判定される。すると、テンプレート1110、1120が除外され、その他のテンプレートが候補テンプレートとなり、候補テンプレートの中から処理対象の見開きページのテンプレートが決定されることになる。しかしながら、処理対象の見開きページに割り当てられている画像が縦方向の画像である場合には、テンプレート1130と1140も除外されてしまう。結果として、使用可能なテンプレートがなくなってしまい、レイアウト処理がエラーとなって終わってしまうおそれがあった。
そこで、本実施形態では、テンプレートのバリエーションが限られる場合には、第1の判定条件ではなく、第1の判定条件よりも類似性の判定を詳細に行う第2の判定条件で類似性を判定する処理を行う。第2の判定条件は、例えば第1の判定条件よりも判定項目を増やした条件である。具体的には、メインスロットの位置が一致するか否かを判定項目に増やす。そして、いずれの判定項目においても類似性が肯定される場合に、両テンプレートは類似すると判定される。換言すれば、いずれかの判定項目で類似性が否定された場合には、両テンプレートは類似しないと判定されることになる。つまり、アスペクト比が同じであっても、メインスロットの位置が異なる場合には、類似しているとは判定されないことになる。ここで、第1の判定条件よりも類似性の判定を詳細に行う第2の判定条件で類似性を判定することで得られる結果の一例を説明する。例えば、1つ前の見開きで使用されていたテンプレートが図8(a)とする。図8のテンプレート群の中で第1の判定条件を使って図8(a)と類似していると判定されるテンプレートの数は、第2の判定条件を使って図8(a)と類似していると判定されるテンプレートの数よりも多くなる。
このような第2の判定条件に従えば、テンプレート1120は、テンプレート1110と類似していると判定されずに済む。その結果、第1の見開きページでテンプレート1110が使用されていた場合、第2の見開きページでテンプレート1120が使用される。したがって、メリハリのついたレイアウトが行われることになる。詳細は後述する。
なお、テンプレートのバリエーションが多い場合(例えば画像スロットの数が2つ以上の場合)、第2の判定条件よりも第1の判定条件で類似性を判定した方が、メリハリのつくレイアウトが行われる。第2の判定条件の場合、いずれの判定項目においても類似性が肯定される場合に、両テンプレートは類似すると判定される。つまり、類似と判定される判定基準が厳しくなり、除外されるテンプレートが少なくなってしまう。この結果、第1の判定条件では類似していると判定されていたはずのテンプレートが除外されずに候補テンプレートとして残ってしまい、そのテンプレートが選択されてしまう場合がある。この場合、両者のテンプレートには画一性はないものの、メリハリという観点では、メリハリの度合いが低くなってしまう。
以上の点を考慮し、本実施形態では、処理対象の見開きページに割り当てられている画像の枚数に応じて、類似性の判定に用いる判定条件を変更する処理を行う。
<フローチャート>
以下、S420の画像レイアウト決定処理の詳細について説明する。図12は、本実施形態における、アルバム作成アプリケーションの画像レイアウト部212に関する画像レイアウト決定処理を示すフローチャートである。なお、先に説明したように、使用済みのレイアウトとの類似性を考慮しないレイアウトを行う場合には、図8で説明したような方法で画像レイアウト部212がレイアウトを決定しても良い。図12は、処理対象の見開きページごとに行われる処理である。なお、本実施形態では、最初の見開きに対しては上述したように、処理対象の見開きページに割り当てられ選択された画像の向き(アスペクト比と言っても良い)と、その画像の撮影日時とに基づいて、テンプレート群の中から、テンプレートが決定される。一方、以降の見開きに使用されるテンプレートを選択するために図12が実行される。
S1201で画像レイアウト部212は、処理対象の見開きページに対してS419で選択されている画像を取得する。即ち、画像レイアウト部212は、処理対象の見開きページに割り当てられている画像(より詳細には、見開きページで用いる枚数分の画像)を取得する。ここでは、見開き割当部209で割り当てられている画像であり、画像選択部210で選択されている画像を総称して、見開きページに割り当てられている画像と称するものとする。
S1202で画像レイアウト部212は、S1201で取得した画像の枚数が、第1の閾値以上かを判定する。例えば、第1の閾値は「2」である。画像の枚数が第1の閾値以上の場合、S1203に進む。そうでない場合、S1204に進む。
S1203で画像レイアウト部212は、類似性を判定する判定条件として、第1の判定条件を取得する。一方、S1204では、画像レイアウト部212は、類似性を判定する判定条件として、第1の判定条件よりも詳細な判定条件である第2の判定条件を取得する。
S1205で画像レイアウト部212は、テンプレート入力部211で入力されているテンプレート群の中から、候補テンプレートを取得する。候補テンプレートは、次に説明するS1206の類似性判定が行われていないテンプレートである。即ち、S1205で画像レイアウト部212は、S1201で取得した画像の枚数用のテンプレート群の中から、類似性の判定処理が行われていないテンプレートを取得する。
S1206で画像レイアウト部212は、S1205で取得したテンプレートが、他の見開きページにおいて使用されているテンプレートと類似しているか否かを判定する。このとき、画像レイアウト部212は、S1203で取得した第1の判定条件またはS1204で取得した第2の判定条件を用いて類似性を判定する。本実施形態では、処理対象の見開きページの直前の見開きページのレイアウトに用いられたテンプレートと、S1205で取得したテンプレートとの類似度を算出する。なお、候補テンプレートとの類似度を判定する対象のテンプレートは、直前の見開きページのレイアウトに用いられたテンプレートに限られるものでない。例えば、候補テンプレートと同じ枚数用のテンプレートが使用された見開きページの使用済みのテンプレートと比較する形態でも良い。また、候補テンプレートとは異なる枚数用のテンプレートが使用された見開きページの使用済みのテンプレートと比較する形態でも良い。
以下、第1の判定条件を用いた類似性の判定を説明する。第1の判定条件では、類似度は、例えば両テンプレートのスロットの相対的な位置を考慮したアスペクト比からなるベクトル間の距離として求められる。スロットの高さが4、スロットの幅が3とした場合、スロットのアスペクト比は、4/3となる。その場合、例えば図8(a)のテンプレートが表すベクトルは、
Figure 2019191830
で表すことができる。
また、図8(b)のテンプレートが表すベクトルは、
Figure 2019191830
で表わすことができる。
さらに、図8(a)のテンプレートと図8(b)のテンプレートとのベクトル間の距離は、
Figure 2019191830
で算出することができ、類似度は0.58となる。類似度は、数値が0に近いほど似ていることを示しており、逆に数値が高いほど類似していないことを示している。類似度の閾値を0.3とした場合、図8(a)のテンプレートと図8(b)のテンプレートとは類似していないと判定されることになる。ここでは、類似度の閾値を0.3としたが、類似しているか否かの判定ができればよく、この例に限らない。
次に、第2の判定条件を用いた類似性の判定を説明する。第2の判定条件では、スロットのアスペクト比からなる類似度に加え、例えばテンプレートのメインスロットの位置を用いて類似性の判定を行う。図11の例で説明する。図11(a)のテンプレート1110が直前の見開きページのレイアウトに用いられた場合、スロットのアスペクト比からなる図11(a)から図11(c)の各テンプレート類似度は、次の通りである。図11(a)のテンプレート1110は、0.0である。図11(b)のテンプレート1120は、0.0である。図11(c)のテンプレート1130は、0.58である。図11(d)のテンプレート1140は、0.58である。
次に、メインスロットの位置の類似性を判定する。メインスロットの位置は、図11(a)のテンプレート1110では、左である。図11(b)のテンプレート1120では、右である。図11(c)のテンプレート1130では、左である。図11(d)のテンプレート1140では、右である。
第2の判定条件では、スロットのアスペクト比からなる類似度の閾値として0.3以下である場合、かつ、メインスロットの位置が一致する場合、類似していると判定される。つまり、図11(a)のテンプレート1110が直前の見開きページのレイアウトに使用されている場合、図11(a)のテンプレート1110は類似していると判定される。一方で、図11(b)のテンプレート1120、図11(c)のテンプレート1130、および図11(d)のテンプレート1140は、類似していないと判定される。
S1206において、S1205で取得したテンプレートが直前の見開きページのレイアウトに使用されたテンプレートと類似していないと判定した場合、S1207に進む。そうでない場合(類似していると判定した場合)、S1209に進み、S1207〜S1208の処理がスキップされる。つまり、S1205で取得した候補テンプレートは、処理対象の見開きページに用いられるテンプレートから除外される。
S1207では、画像レイアウト部212は、S1205で取得され、かつ、S1206において類似していないと判定されたテンプレート(使用テンプレートと呼ぶこともある)を用いて、S1201で取得されている画像をレイアウトする。レイアウト処理の手順は、前述のS420と同様の処理を行えばよく、ここでの説明は省略する。この処理により、S1205で取得され、かつ、S1206において類似していないと判定されたテンプレートに画像がレイアウトされた候補レイアウトが作成されることになる。
S1208で画像レイアウト部212は、候補レイアウトの評価を行う。本実施形態では、後述するように、各候補レイアウトの評価値を決定し、評価値が最も高い候補レイアウトが、処理対象の見開きページのレイアウトとして決定される。このため、S1208では、候補レイアウトの評価値を求めている。候補レイアウトの評価値の算出方法は、任意のものを用いることができる。例えば、メインスロットに割り当てた画像の得点をレイアウト評価値として算出することができる。例えば、1枚の縦方向の画像である場合、図11(b)のテンプレート1120、図11(c)のテンプレート1130、および図11(d)のテンプレート1140の中で、テンプレート1120を用いた場合の評価点が最も高くなる。メインスロットが横方向の図11(c)のテンプレート1130および図11(d)のテンプレート1140では、縦方向の画像をレイアウトできないので、評価値がない、または評価値が所定の値以下となる。なお、図8には示していないが、各画像の得点として、アスペクト比に応じた得点が求められている場合、アスペクト比に応じた得点で評価値を求めれば良い。
S1209で画像レイアウト部212は、すべての候補レイアウトが作成済みかを判定する。即ち、候補テンプレートの全てについてS1205〜S1208の処理が終了したか否かを判定する。終了している場合、S1210に進む。終了していない場合、S1205からの処理を繰り返す。S1205では、未処理の候補テンプレートが取得されることになる。
S1210で画像レイアウト部212は、候補レイアウトからレイアウトを決定する。本実施形態では、S1205で算出したレイアウト評価値の中で、最も評価値が高かった候補レイアウトを採用する。ここで、最も評価値が高かった候補レイアウトに使用されたテンプレートを使用テンプレートと呼ぶこともある。また、画像レイアウト部212は、採用されたレイアウトに用いられているテンプレート番号を記憶することで、使用済みのテンプレートであることを示す情報を記憶する。使用済みのテンプレート番号は、見開きページのページ番号と対応付けて記憶されても良い。
以上説明したように、本実施形態によれば、画像枚数に応じてテンプレートの類似性を判定する判定条件を変更している。この結果、類似したテンプレートが連続して採用されることを抑制することができる。つまり、見開きページ間でメリハリのあるレイアウト結果を提供できる。このように、本実施形態では、テンプレートの類似を適切に判定してメリハリのあるレイアウト結果を提供することができる。
なお、本実施形態では、別の例として、第1の判定条件が、スロットのアスペクト比からなる類似度のみであり、第2の判定条件が、メインスロットの位置のみでも良い。
<<実施形態2>>
実施形態1では、処理対象の見開きページに割り当てられている画像枚数に応じて、類似性を判定する判定条件を変更する形態を例に挙げて説明した。本実施形態では、使用するテンプレートの数に応じて、類似性を判定する判定条件を変更する形態を説明する。本実施形態における画像処理装置の構成は、実施形態1で説明したものと同様であるので、説明を省略する。
図13は、本実施形態におけるS420の画像レイアウト処理の一例を示すフローチャートである。S1302が、図12と異なる。その他のS1301、S1302〜S1310の処理は、図12のS1201、S1202〜S1210の処理と同様であるので、説明を省略する。
S1302で画像レイアウト部212は、テンプレートの枚数が第2の閾値(例えば「5」)以上かを判定する。あらかじめ用意したテンプレート群がデザインの種類ごとに細分化されているような場合など、処理対象の見開きページに使用可能な候補テンプレートの数が少なくなる場合がある。実施形態1で説明したように、画像枚数が少ないということは、テンプレートのバリエーションが少なくなることに等しい。また、候補テンプレートの数自体がそもそも少ないような場合には、やはりテンプレートのバリエーションが少なくなる。そこで、本実施形態では、テンプレートの数が少ない場合にも、実施形態1と同様に、類似性を判定する判定条件が変更される。第2の閾値は、5枚を例に挙げて説明したが、これに限られるものではない。
このように、本実施形態によれば、テンプレートの数が少ない場合でも、類似性の判定がより詳細に判定されることになる。従って、テンプレートの類似を適切に判定してメリハリのあるレイアウト結果を提供することができる。
<<その他の実施形態>>
実施形態1および2では、テンプレート間の類似度を、スロットのアスペクト比およびメインスロットの位置を用いて求める形態を例に挙げて説明した。即ち、第1の判定条件では、スロットのアスペクト比のみを用い、第2の判定条件では、スロットのアスペクト比およびメインスロットの位置を用いる形態を説明した。しかしながら、類似度の判定は、これに限らない。テンプレートの様態を示す情報であればよく、スロットの数、スロットのサイズ、スロットの並び順、スロットの座標位置、スロットの重なり数、およびスロットの連結数などの数値からテンプレート間の類似度を求めても良い。また、判定項目の数についても、第1の判定条件よりも第2の判定条件の方が、判定項目が多くなれば良く、第1の判定条件の判定項目が1つでなくても良い。
また、第1の判定条件および第2の判定条件の2つの判定条件を切り替える形態を説明したが、これに限られるものではない。画像の枚数に応じて判定条件を変更する形態であればよい。例えば、第1の判定条件と第2の判定条件との間の中間的な判定を行う第3の判定条件を用いる形態でも良い。
また、類似したテンプレートが使用されるよりも、レイアウト上の弊害が起こり得る状況に、判定条件を変更しても良い。例えば、レイアウトしたとき印刷に耐えられないほど解像度が低くなる場合や、S403で検出された顔が見開きの綴じ部に重なる場合にも判定条件を変更しても良い。即ち、このようなレイアウトが行われるテンプレートを、除外する条件を設けても良いし、このようなレイアウトが行われるテンプレートを類似する、と判定する判定項目を設けても良い。あるいは、このような弊害が起こり得るレイアウトの評価値をS1208で低くすることで、候補レイアウトから実質的に除外するようにしても良い。
また、類似したテンプレートが使用されることを抑制するよりも、類似したテンプレートであっても優先して使用されるべきテンプレートがあるような場合にも、判定条件を変更しても良い。例えば、写真が重なってレイアウトされるフォト・オン・フォトなどのデザインの異なるテンプレートを使用したい場合、判定条件を変更しても良い。つまり、類似したテンプレートであっても、このフォト・オン・フォトのテンプレートを除外しない方向の判定条件を用いることができる。ここでフォト・オン・フォトについて説明する。例えば、図14の見開きページ1400は、スロットに対して画像1410が配置され、背景に対して背景画像1420が配置された図である。背景画像1420には、ボカシ処理が行われている。このように、背景画像1420のみに画像加工を行う理由を説明する。背景画像1420は、画像1410を拡大することで得られる。この拡大により、画像の解像度が低下してしまい、画像の被写体の輪郭に画素が見えてしまうジャギーが発生してしまう。そこで、このジャギーを防ぐための画像加工としてボカシ処理が行われた画像が背景画像として使用される。なお、ジャギーが見えにくくなれば、どのような画像加工であっても良い。例えば、透過処理、グラデーションマスク処理、線画処理、ハーフトーン処理などを適用することができる。
また、上述した実施形態では、処理対象の見開きページのテンプレートの決定に際し、直前の見開きページで使用されたテンプレートとの類似度の計算する例を説明した。即ち、前後の見開きページ間でのテンプレートの類似性を判定する例を説明したが、前後の見開きページに限らない。例えば、レイアウト処理済みのすべての見開きページで使用されているテンプレートとの類似判定を行ってもよい。あるいは、偶数見開きページ毎、奇数見開きページ毎など、所定のページ間隔で類似判定が行われて良い。
また、上述した実施形態では、候補テンプレートが類似と判定された場合、候補レイアウトを作成しないことで類似した候補テンプレートが用いられることを防止する例を説明したが、これに限らない。例えば、候補テンプレートが類似していると判定された場合、S1208で算出するレイアウト評価値を減点して良い。この結果、S1210の処理では、類似している候補テンプレートを用いたレイアウトが決定されにくくなる。また、類似と判定された場合、S1205で画像レイアウト部212は、異なるデザインのテンプレート群からテンプレートを取得してもよい。これより、類似したテンプレートを回避することできる。
さらに、候補テンプレートが類似と判定された場合、画像の枚数、アスペクト比、画像の自動取得、画像の手動での指定などを問わず、S419の画像選択とは異なる選択基準によって画像を再選択しても良い。つまり、画像データ群の全部または一部を異なる画像データ群に変更することで、類似したテンプレートを回避することもできる。また、S418の見開き割当とは異なる基準によって見開きへ画像を再割り当てすることで、類似したテンプレートを回避することもできる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
202 画像取得部
209 見開き割当部
210 画像選択部
211 テンプレート入力部
212 画像レイアウト部

Claims (18)

  1. 複数の画像を取得する取得手段と、
    前記取得した画像の中から各見開きページに画像を割り当てる割当手段と、
    処理対象の見開きページに用いられる候補テンプレート群を、前記処理対象の見開きページに割り当てられる前記画像の枚数に応じて決定する第1の決定手段と、
    レイアウトに使用済みのテンプレートと、前記決定した候補テンプレート群に含まれるテンプレートとが類似しているかを判定する判定条件を、前記処理対象の見開きページに対して割り当てられた画像の枚数または前記決定した候補テンプレート群に含まれるテンプレートの数に基づいて決定する第2の決定手段と、
    前記候補テンプレート群に含まれるテンプレートの中で、前記判定条件に従って類似していると判定されたテンプレートを除くテンプレートから、前記処理対象の見開きページに用いられる使用テンプレートを決定する第3の決定手段と、
    前記処理対象の見開きページに割り当てられている前記画像を前記使用テンプレートにレイアウトするレイアウト手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記第2の決定手段は、
    前記処理対象の見開きページに対して割り当てられた画像の枚数が第1の閾値以上の場合、前記判定条件として第1の判定条件を決定し、
    前記処理対象の見開きページに対して割り当てられた画像の枚数が前記第1の閾値未満である場合、前記判定条件として、前記第1の判定条件よりも詳細に類似性を判定する第2の判定条件を決定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記第2の決定手段は、
    前記第1の決定手段で決定した前記候補テンプレート群に含まれる前記テンプレートの数が第2の閾値以上の場合、前記判定条件として第1の判定条件を決定し、
    前記処理対象の見開きページに用いられる前記候補テンプレート群に含まれる前記テンプレートの数が前記第2の閾値未満の場合、前記判定条件として、前記第1の判定条件よりも詳細に類似性を判定する第2の判定条件を決定することを特徴とする請求項1に記載の画像処理装置。
  4. 前記第2の判定条件は、前記第1の判定条件よりも、判定項目が多いことを特徴とする請求項2または3に記載の画像処理装置。
  5. 前記第1の判定条件は、前記画像を配置するスロットのアスペクト比に基づく判定項目を含むことを特徴とする請求項2から4のいずれか一項に記載の画像処理装置。
  6. 前記第2の判定条件は、前記アスペクト比に基づく判定項目、および、前記画像を配置するスロットの位置に基づく判定項目を含むことを特徴とする請求項5に記載の画像処理装置。
  7. 前記第1の判定条件は、前記画像を配置するスロットの数、スロットのサイズ、スロットの並び順、スロットの座標位置、スロットの重なり数、およびスロットの連結数のうちの少なくとも1つであることを特徴とする請求項2から4のいずれか一項に記載の画像処理装置。
  8. 前記第2の判定条件は、前記第1の判定条件の判定項目に加え、前記画像を配置するスロットの数、スロットのサイズ、スロットの並び順、スロットの座標位置、スロットの重なり数、およびスロットの連結数のうち前記第1の判定条件の判定項目ではない少なくとも1つの判定項目をさらに含むことを特徴とする請求項7に記載の画像処理装置。
  9. 前記第3の決定手段は、前記第2の判定条件のいずれの判定項目においても類似性が肯定される場合、前記類似しているとの判定を行うことを特徴とする請求項2から8のいずれか一項に記載の画像処理装置。
  10. 前記判定条件は、前記処理対象の見開きページの直前の見開きページのレイアウトに使用済みのテンプレートと、前記第2の決定手段で決定した候補テンプレート群に含まれるテンプレートとが類似しているかを判定する場合に用いられることを特徴とする請求項1から9のいずれか一項に記載の画像処理装置。
  11. 前記判定条件は、前記処理対象の見開きページから所定の間隔で離れた見開きページのレイアウトに使用済みのテンプレートと、前記第2の決定手段で決定した候補テンプレート群に含まれるテンプレートとが類似しているかを判定する場合に用いられることを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。
  12. 前記第3の決定手段は、前記テンプレートに前記画像を配置した場合の評価値を決定し、前記評価値が最も高いテンプレートを前記使用テンプレートとして決定する請求項1から11のいずれか一項に記載の画像処理装置。
  13. 前記第3の決定手段は、前記判定条件に従って類似していると判定されたテンプレートを除くテンプレートに前記画像を配置した場合の前記評価値を決定することを特徴とする請求項12に記載の画像処理装置。
  14. 前記第3の決定手段は、前記判定条件に従って類似していると判定されたテンプレートの評価点が、類似していないと判定されたテンプレートの評価点よりも低くなるように、前記評価点を決定することを特徴とする請求項12に記載の画像処理装置。
  15. 前記第3の決定手段は、類似していると判定されたテンプレートがある場合、前記候補テンプレート群とは異なるデザインのテンプレート群の中から、前記使用テンプレートを決定することを特徴とする請求項1から14のいずれか一項に記載の画像処理装置。
  16. 前記見開き割当部は、類似していると判定されたテンプレートがある場合、前記処理対象の見開きページに前記画像を割り当てた基準とは別の基準で、前記処理対象の見開きページに画像を割り当てることを特徴とする請求項1から15のいずれか一項に記載の画像処理装置。
  17. 複数の画像を取得する取得ステップと、
    前記取得した画像の中から各見開きページに画像を割り当てる割当ステップと、
    処理対象の見開きページに用いられる候補テンプレート群を、前記処理対象の見開きページに割り当てられる前記画像の枚数に応じて決定する第1の決定ステップと、
    レイアウトに使用済みのテンプレートと、前記決定した候補テンプレート群に含まれるテンプレートとが類似しているかを判定する判定条件を、前記処理対象の見開きページに対して割り当てられた画像の枚数または前記決定した候補テンプレート群に含まれるテンプレートの数に基づいて決定する第2の決定ステップと、
    前記候補テンプレート群に含まれるテンプレートの中で、前記判定条件に従って類似していると判定されたテンプレートを除くテンプレートから、前記処理対象の見開きページに用いられる使用テンプレートを決定する第3の決定ステップと、
    前記処理対象の見開きページに割り当てられている前記画像を前記使用テンプレートにレイアウトするレイアウトステップと、
    を備えることを特徴とする画像処理方法。
  18. コンピュータを、請求項1から16のいずれか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2018082563A 2018-04-23 2018-04-23 画像処理装置、画像処理方法、およびプログラム Active JP6938422B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018082563A JP6938422B2 (ja) 2018-04-23 2018-04-23 画像処理装置、画像処理方法、およびプログラム
US16/373,778 US10958796B2 (en) 2018-04-23 2019-04-03 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018082563A JP6938422B2 (ja) 2018-04-23 2018-04-23 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2019191830A true JP2019191830A (ja) 2019-10-31
JP6938422B2 JP6938422B2 (ja) 2021-09-22

Family

ID=68236574

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018082563A Active JP6938422B2 (ja) 2018-04-23 2018-04-23 画像処理装置、画像処理方法、およびプログラム

Country Status (2)

Country Link
US (1) US10958796B2 (ja)
JP (1) JP6938422B2 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
JP7341677B2 (ja) * 2019-02-28 2023-09-11 キヤノン株式会社 装置、方法、及びプログラム
JP7350495B2 (ja) * 2019-02-28 2023-09-26 キヤノン株式会社 装置、方法、及びプログラム
JP7341676B2 (ja) 2019-02-28 2023-09-11 キヤノン株式会社 装置、方法、及びプログラム
JP7286392B2 (ja) 2019-04-17 2023-06-05 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7286393B2 (ja) * 2019-04-17 2023-06-05 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7313915B2 (ja) 2019-06-07 2023-07-25 キヤノン株式会社 学習方法
JP7418976B2 (ja) 2019-06-07 2024-01-22 キヤノン株式会社 学習方法
JP7414409B2 (ja) 2019-06-07 2024-01-16 キヤノン株式会社 学習方法
JP2020201679A (ja) 2019-06-07 2020-12-17 キヤノン株式会社 学習方法
JP7370759B2 (ja) 2019-08-08 2023-10-30 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2022086521A (ja) * 2020-11-30 2022-06-09 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2022123213A (ja) 2021-02-12 2022-08-24 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及びプログラム
JP2022123210A (ja) 2021-02-12 2022-08-24 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及びプログラム
JP2022123209A (ja) 2021-02-12 2022-08-24 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2023021794A (ja) 2021-08-02 2023-02-14 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2023067166A (ja) 2021-10-29 2023-05-16 キヤノン株式会社 画像処理装置及び画像処理方法
JP2023067164A (ja) 2021-10-29 2023-05-16 キヤノン株式会社 画像処理装置及び画像処理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007026422A (ja) * 2005-06-13 2007-02-01 Fujifilm Corp アルバム作成装置、アルバム作成方法、及びプログラム
JP2013182524A (ja) * 2012-03-02 2013-09-12 Canon Inc 画像処理装置、画像処理方法
JP2014016816A (ja) * 2012-07-09 2014-01-30 Canon Inc 情報処理装置、情報処理方法、およびプログラム
JP2017037415A (ja) * 2015-08-07 2017-02-16 キヤノン株式会社 情報処理装置およびその制御方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4578948B2 (ja) * 2003-11-27 2010-11-10 富士フイルム株式会社 画像編集装置および方法並びにプログラム
WO2008117827A1 (ja) * 2007-03-26 2008-10-02 Nikon Corporation 画像表示装置、および画像表示用プログラム製品
JP5641782B2 (ja) 2010-05-24 2014-12-17 キヤノン株式会社 画像処理装置及び画像処理方法
US20120294514A1 (en) * 2011-05-19 2012-11-22 Xerox Corporation Techniques to enable automated workflows for the creation of user-customized photobooks
JP5449460B2 (ja) * 2011-06-28 2014-03-19 富士フイルム株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP5993642B2 (ja) 2012-07-09 2016-09-14 キヤノン株式会社 情報処理装置及びその制御方法及びプログラム
US9420121B2 (en) * 2012-09-28 2016-08-16 Interactive Memories Inc. Method for tracking theme-based digital assets for clients engaged in image-based project creation through an electronic interface
JP6525862B2 (ja) 2015-08-07 2019-06-05 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6559609B2 (ja) 2016-04-25 2019-08-14 富士フイルム株式会社 画像合成装置、画像合成方法および画像合成プログラム
JP6902860B2 (ja) 2016-12-09 2021-07-14 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP6902886B2 (ja) 2017-03-14 2021-07-14 キヤノン株式会社 画像処理装置、方法およびプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007026422A (ja) * 2005-06-13 2007-02-01 Fujifilm Corp アルバム作成装置、アルバム作成方法、及びプログラム
JP2013182524A (ja) * 2012-03-02 2013-09-12 Canon Inc 画像処理装置、画像処理方法
JP2014016816A (ja) * 2012-07-09 2014-01-30 Canon Inc 情報処理装置、情報処理方法、およびプログラム
JP2017037415A (ja) * 2015-08-07 2017-02-16 キヤノン株式会社 情報処理装置およびその制御方法

Also Published As

Publication number Publication date
US10958796B2 (en) 2021-03-23
US20190327367A1 (en) 2019-10-24
JP6938422B2 (ja) 2021-09-22

Similar Documents

Publication Publication Date Title
JP6938422B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6902886B2 (ja) 画像処理装置、方法およびプログラム
JP6711937B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US20190325627A1 (en) Image processing apparatus, image processing method and storage medium
CN108377351B (zh) 用于在模板上布局图像的图像处理装置和图像处理方法
JP6494504B2 (ja) 情報処理装置、制御方法およびプログラム
CN108230425B (zh) 图像处理方法、图像处理装置和存储介质
US11627227B2 (en) Image processing apparatus, image processing method, and storage medium
JP2017037617A (ja) 画像処理装置、画像処理方法およびプログラム
JP6532398B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP7076974B2 (ja) 画像処理装置、制御方法およびプログラム
JP7336211B2 (ja) 画像処理装置、制御方法、及びプログラム
JP6681192B2 (ja) 画像処理装置、画像処理方法、及びコンピュータプログラム
JP7336209B2 (ja) 画像処理装置、制御方法、及びプログラム
JP7027101B2 (ja) 情報処理装置、制御方法、及びプログラム
JP2018124776A (ja) 情報処理装置、情報処理方法、及びプログラム
EP3128461B1 (en) Image processing apparatus, image processing method, and program
JP2021149196A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6647039B2 (ja) 画像処理装置、画像処理方法、及びコンピュータプログラム
JP6700806B2 (ja) プログラム、情報処理装置および制御方法
JP7336212B2 (ja) 画像処理装置、制御方法、及びプログラム
JP7336210B2 (ja) 画像処理装置、制御方法、及びプログラム
US11978133B2 (en) Image processing apparatus, image processing method, and storage medium
JP6700686B2 (ja) 画像処理装置およびアルバム作成方法およびプログラム
JP2020204944A (ja) 装置、方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201023

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210803

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210901

R151 Written notification of patent or utility model registration

Ref document number: 6938422

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151