JP2017038343A - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP2017038343A
JP2017038343A JP2015254946A JP2015254946A JP2017038343A JP 2017038343 A JP2017038343 A JP 2017038343A JP 2015254946 A JP2015254946 A JP 2015254946A JP 2015254946 A JP2015254946 A JP 2015254946A JP 2017038343 A JP2017038343 A JP 2017038343A
Authority
JP
Japan
Prior art keywords
image
image data
unit
shooting
selection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015254946A
Other languages
English (en)
Other versions
JP6494503B2 (ja
Inventor
寛康 國枝
Hiroyasu Kunieda
寛康 國枝
後藤 文孝
Fumitaka Goto
文孝 後藤
正明 大林
Masaaki Obayashi
正明 大林
真耶 黒川
Maya Kurokawa
真耶 黒川
慶範 溝口
Yoshinori Mizoguchi
慶範 溝口
加藤 真夫
Masao Kato
真夫 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to CN201610615457.2A priority Critical patent/CN106454064B/zh
Priority to US15/227,600 priority patent/US10403014B2/en
Priority to EP16182945.2A priority patent/EP3131035A1/en
Priority to EP22153233.6A priority patent/EP4024347A3/en
Publication of JP2017038343A publication Critical patent/JP2017038343A/ja
Application granted granted Critical
Publication of JP6494503B2 publication Critical patent/JP6494503B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/96Management of image or video recognition tasks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/179Human faces, e.g. facial parts, sketches or expressions metadata assisted face recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)

Abstract

【課題】 撮影枚数が少ない日時の画像を選択することができる画像処理方法、画像処理装置、及びそのプログラムを提供する。【解決手段】 複数の画像データを含む画像群を取得し、選択する画像データの数を設定し、取得した画像データ群の各画像データの撮影日時を特定する。特定した撮影日時に基づき、取得した画像データ群の撮影期間を複数の撮影区間に分割し、取得した画像データ群に含まれる画像データから設定された数の画像データを選択する。選択する際には、分割して得られた各撮影区間に対応する画像データ群からそれぞれ画像データを選択する。【選択図】 図12

Description

本発明は、画像処理装置、画像処理方法、及びプログラムに関し、より具体的には、アルバム作成をする画像処理装置、画像処理方法、及びプログラムに関する。
デジタルカメラの普及に加え、近年ではスマートデバイスの普及及びスマートデバイスのカメラ性能向上により、ユーザーの写真撮影枚数が急激に増加している。スマートデバイスは、携帯性に優れているため、デジタルカメラでは撮影される機会が少なかった日常の何気ない写真の撮影回数が増えた。
ところで、デジタルカメラで撮影した写真を活用し、アルバムを自動レイアウトする方法が知られている。特許文献1では、大量の写真を解析して自動で選択する際に、写真の撮像日時を用いて、写真をグループ化し、各グループに含まれる写真の枚数に応じて画像評価対象を判断する方法が提案されている。
特開2015−114920
しかしながら、特許文献1では、撮影枚数が多い撮影日時のグループに属する写真のみが評価の対象となり、撮影枚数が少ない撮影日時のグループに属する写真は評価されない。したがって、撮影枚数が少ない撮影日時に撮影された写真は、アルバム内にレイアウトされなくなってしまう。
本発明は上記課題を解決するためになされたものであり、撮影枚数が少ない日時の画像も選択することができる画像処理方法、画像処理装置、及びそのプログラムを提供することを目的する。
上記課題を解決する為に、複数の画像データを含む画像データ群を取得する取得手段と、選択する画像データの数を設定する設定手段と、前記取得手段により取得した画像データ群の各画像の撮影日時を特定する特定手段と、前記特定手段により特定した撮影日時に基づき、前記取得手段により取得した画像データ群の撮影期間を複数の撮影区間に分割する分割手段と、前記取得手段により取得した画像データ群から前記設定手段により設定された数の画像データを選択する選択手段と、を有し、前記選択手段は、前記分割手段により分割して得られた各撮影区間に対応する画像データ群から画像データを選択する。
本発明によれば、撮影枚数が少ない撮影日時の画像も選択することができる。
本発明に係るアプリケーションを実行可能なハードウェアブロック図である。 本発明に係るアプリケーションのソフトウェアブロック図である。 本発明に係るアプリケーションが表示する表示画面の図である。 本発明に係る自動レイアウトの処理フロー図である。 本発明に係る画像解析情報を説明する図である。 本発明に係る画像群分割を説明する図である。 本発明に係るシーン分類を説明する図である。 本発明に係る画像得点を説明する図である。 本発明に係る画像選択を説明する図である。 本発明に係る画像レイアウトを説明する図である。 本発明に係る詳細な画像選択を説明する図である。 本発明に係る画像選択の詳細なフローを説明する図である。 本発明に係る詳細な画像選択を説明する図である。 本発明に係る画像選択の詳細なフローを説明する図である。
(実施形態1)
以下、本発明の実施形態について図面を用いて詳細に説明する。
本実施形態では、画像処理装置において、アルバム作成のためのアプリケーション(以下、「アプリ」ともいう)を動作させ、自動レイアウトを生成する方法を例に挙げて説明する。
図1は、本発明に係る画像処理装置のハードウェアの構成を説明するブロック図である。画像処理装置としては、例えば、PC、スマートフォン等が挙げられ、本実施形態ではPCとする。
図1において、画像処理装置100は、CPU101と、ROM102と、RAM103と、HDD104と、ディスプレイ105と、キーボード106と、マウス107と、データ通信装置108と、を備えている。これらは、データバス109により相互に接続されている。
CPU(中央演算装置/プロセッサ)101は、システム制御部であり、画像処理装置100全体を制御する。また、CPU101は、本実施形態で説明する画像処理方法をプログラムに従って実行する。なお、図中のCPUは1つとしたが、これに限定されず、複数備えていてもよい。
ROM102は、CPU101により実行されるプログラムが記憶されている。RAM103は、CPU101によるプログラムの実行時に、各種情報を一時的に記憶するためのメモリを提供している。HDD(ハードディスク)104は、画像ファイルや画像解析などの処理結果を保持するデータベースなどを記憶するための記憶媒体である。本実施形態では、HDD104は、詳細は後述するアルバム作成のためのアプリケーションプログラムを記憶する。
ディスプレイ105は、本実施形態のUI(ユーザーインターフェイス)や画像のレイアウト結果をユーザーに提示する装置である。ディスプレイ105は、タッチセンサー機能を備えても良い。キーボード106は、入力装置の1つであり、例えば、ディスプレイ105に表示されたUI上に所定の情報を入力するのに用いられる。本実施形態では、キーボード106を介してアルバムの見開き数を入力する。マウス107は、入力装置の1つであり、例えば、ディスプレイ105に表示されたUI上のボタンをクリックするのに用いられる。
データ通信装置108は、プリンタやサーバなどの外部装置と通信するための装置である。例えば、自動レイアウトのデータは、データ通信装置108を介してPCに接続されたプリンタやサーバに送信される。
データバス109は、上述した各部(102〜108)とCPU101とを接続する。
図2は、本発明に係るアルバム作成アプリケーションのソフトウェアブロック図である。本実施形態では、HDD104に保存されたアルバム作成アプリケーションは、ディスプレイ105に表示されているアプリケーションのアイコンがユーザによりマウス107を使ってダブルクリックされることにより起動する。アルバム作成アプリケーションは様々な機能を持つが、本実施形態では、特に自動レイアウト処理部216により提供される自動レイアウト機能に関して説明する。図2に示すように、アプリケーションは、アルバム作成条件指定部201と、自動レイアウト処理部216と、を含む。自動レイアウト機能は、撮影された写真をその内容や属性に基づいて分類し、あるいは選択して写真をレイアウトし、ディスプレイ105に表示するアルバム画像を生成するための機能である。
アルバム作成条件指定部201は、マウス107によるUI操作に応じてアルバム作成条件を自動レイアウト処理部216に指定する。本実施形態では、アルバム作成条件として、主人公、見開き数、テンプレートの種類、画像補正をするか否かを指定する。画像の指定は、たとえば撮影日時など個別の画像データの付随情報や属性情報による指定であってもよいし、デバイスやディレクトリの指定など、画像データを含むファイルシステムの構造に基づく指定であってもよい。なお見開きとは、たとえば表示においてはひとつの表示用ウィンドウに相当し、印刷においては、異なるシートに印刷された、互いに隣接する1対のページに相当する。
画像取得部202は、アルバム作成条件指定部201により指定された画像群(画像データ群)をHDD104から取得する。ここでいう画像群とは、1つのアルバム作成の際にレイアウトする候補画像群を指す。例えば、アルバム作成条件指定部201において、XX年1月1日〜XX年12月31日が指定された場合は、XX年1月1日〜XX年12月31日に撮影された画像全てが指定された画像群に該当する。
HDD104に保存されている画像としては、静止画像や、動画から切り出された切り出し画像が挙げられる。静止画像や切り出し画像は、デジタルカメラやスマートデバイス等の撮像デバイスから取得したものである。撮像デバイスは、画像処理装置100が備えていてもよいし、外部装置が備えるものであってもよい。なお、撮像デバイスが外部装置である場合は、画像はデータ通信装置108を介して取得する。また、静止画像や切り出し画像は、データ通信装置108を介してネットワークやサーバから取得した画像であってもよい。ネットワークやサーバから取得した画像としては、ソーシャルネットワーキングサービス画像(以下、「SNS画像」という)が挙げられる。CPU101によって実行されるプログラムは、各画像に対して、画像に付随したデータを解析して保存元を判定する。SNS画像は、アプリケーションを介してSNSから画像を取得することで、アプリケーション内で取得先を管理してもよい。画像は、上述した画像に限定されるものではなく、他の種類の画像であってもよい。
画像変換部203は、画像データの画素数や色情報を変換する。本実施形態では、画像データを画素数が短辺420画素とし、色情報がsRGBの画像データに変換する。
画像解析部204は、画像データの解析処理をする。本実施形態では、画像変換部203で変換済みの画像データの解析処理をする。具体的には、画像データから特徴量を取得し、画像データにおける顔検出、検出した顔の表情認識、検出した顔の個人認識を実行する。さらに、HDD104から取得した画像に付随したデータ(例えば、Exif情報)から、撮影日時の取得を行う。
画像分類部205は、取得した画像群、すなわち、アルバム作成条件指定部201により指定された画像群をシーン分割する。シーン分割は、撮影日時情報、枚数情報、検出した顔情報を使って実施する。シーンとは、旅行、日常、結婚式等の撮影シーンのことである。シーンとは、例えば、一つの撮影対象について一時期の撮影機会に撮影された画像の集まりであるということもできる。
主人公情報入力部206は、アルバム作成条件指定部201から指定された主人公のID(識別情報)を画像得点部207に入力する。
画像得点部207は、各画像に対して得点付けをする。本実施形態では、レイアウトに適した画像が高得点になるように各画像に対して得点付けをする。レイアウトに提起した画像が高得点になるように得点付けする際は、画像解析部204で得られた情報と、画像分類部205で得られた情報とを用いる。また、他の情報を付加的に或いは代替的に用いてもよい。本実施形態では、画像得点部207は、主人公情報入力部206から入力された主人公IDが含まれる画像の得点が高得点になるように、各画像に対して得点付けをする。
見開き入力部208は、アルバム作成条件指定部201から指定されたアルバムの見開き数を見開き割当部209に入力する。
見開き割当部209は、画像群を分割して各見開きに割り当てる。ここでいう見開きとは、例えば、アルバムを作成した際の見開き2ページである。ここでは見開きで説明するがページでもよい。見開き割当部209は、入力された見開き数に応じて画像群を分割して各見開きに画像群の一部を割り当てる。例えば、見開き数が5である場合、取得した画像群を5つに分割して小画像群を生成し、各見開きに1つの画像群を割当てる。
画像選択部210は、見開き割当部209で各見開きに割り当てられた画像群から画像得点部207で付けた得点に基づいて、画像を選択する。
テンプレート入力部211は、アルバム作成条件指定部201から指定されたテンプレート情報に応じた複数のテンプレートを画像レイアウト部212に入力する。
画像レイアウト部212は、画像のレイアウトを決定する。具体的には、テンプレート入力部211により入力された複数のテンプレートから画像選択部210で選択した画像に適したテンプレートを選択し、各画像のレイアウト(配置位置)を決定する。
レイアウト情報出力部215は、画像レイアウト部212が決定した画像レイアウトに従って、ディスプレイ105に表示するためのレイアウト情報を出力する。レイアウト情報は、例えば、選択したテンプレートに選択した画像をレイアウト(配置)したビットマップデータである。
画像補正部214は、覆い焼き補正、赤目補正、コントラスト補正をする。画像補正条件入力部213は、アルバム作成条件指定部201から指定された画像補正のON/OFF条件を画像補正部214に入力する。画像補正のオンまたはオフは、補正の種類ごとに指定されてもよいし、全ての種類についてまとめて指定されてもよい。画像補正部214は、画像補正条件がONの場合は、画像に対して補正を実施する。画像補正条件がOFFの場合は、補正を実施しない。画像変換部203から画像補正部214に入力する画像の画素数は、画像レイアウト部212で決定したレイアウト画像のサイズに合わせて変えることができる。本実施形態では、レイアウト画像を生成した後に、各画像に画像補正を行うものとしたが、これに限定されず、見開きにページにレイアウト(配置)する前に、各画像の補正を行うようにしてもよい。
レイアウト情報出力部215から出力される画像データは、例えば図3に示すような形式でディスプレイ105に表示される。
本実施形態に係るアルバム作成アプリケーションは、画像処理装置100にインストールすると画像処理装置100上で動作するOS(オペレーティングシステム)のトップ画面(デスクトップ)上に起動アイコンが表示される。ユーザーがディスプレイ105に表示されているデスクトップ上の起動アイコンをマウス107でダブルクリックすると、HDD104に保存されているアルバム作成アプリケーションのプログラムがRAM103にロードされる。RAM103のプログラムがCPU101によって実行されて、アルバム作成アプリケーションが起動する。
図3は、起動したアルバム作成アプリケーションが提供する表示画面301であり、ディスプレイ105に表示される。ユーザーは、表示画面301を介して、アルバムの作成条件を設定することができる。ユーザーは、表示画面であるUI構成画面301を介して、後述するアルバムの作成条件を設定することができる。表示画面301は、画像群の指定部として、パスボックス302及びフォルダ選択ボタン303を有する。表示画面301のパスボックス302は、アルバム作成の対象となる画像群のHDD104中の保存場所(パス)を示す。フォルダ選択ボタン303は、アルバム作成の対象とする画像群を含むフォルダを表示されるツリー構成から選択するためのボタンである。ユーザーがフォルダ選択ボタン303をマウス107でクリックして、アルバム作成の対象とする画像群を含むフォルダを表示されるツリー構成から選択すると、選択した画像群を含むフォルダパスがパスボックス302に表示される。
主人公指定部304は、人物の顔画像がアイコンとして複数表示され、アイコンを選択することにより主人公を指定することができる。なお、主人公指定部304には、人物毎に顔画像が表示される。言い換えれば、主人公指定部304には、1人に対して1つの顔画像が表示され、それぞれの顔画像は個人IDと関連付けられている。なおこの主人公指定部304は、解析対象の画像すなわち写真に写った人物から中心人物である主人公を特定するために用いられる。顔画像は、たとえば予め画像から検出され、個人IDと関連付けて顔データベースに登録されている。主人公指定部304に表示されるアイコンは、たとえば顔データベースに登録された人物の顔画像のうち、ユーザーが選択した人物の顔画像や後述の方法で決めた人物の顔画像である。主人公指定部304には、異なる人物の顔画像のアイコンが複数並び、マウス107によってクリックして選択できる。主人公は図4の手順で自動設定することもできるが、主人公指定部304で指定することで、ユーザーが手動設定することもできる。主人公指定部304に表示されたアイコンのうちユーザーにより選択されたアイコンの人物が主人公として指定される。
見開き数ボックス305は、アルバムにおける見開き数を指定するボックスである。ユーザーは、キーボード106を使って見開き数ボックス305に直接数字を入力したり、マウス107を使ってリストから見開き数ボックス305に数字を入力したりすることができる。
テンプレート指定部306は、テンプレートのテイスト(ポップ調やシック調等)が分かるイラスト画像がアイコンとして複数表示され、テンプレートを指定することができる。本実施形態では、テンプレートとは、画像を配置するための画像配置枠(スロット)を有する。テンプレート指定部306では、複数のテンプレートのアイコンが並び、マウス107によってクリックすることにより、テンプレートを選択することができる。
チェックボックス307は、画像補正のON/OFFを指定することができる。マウス107でチェックを入れると上述した画像補正がONとなり、チェックを入れないと画像補正がOFFとなる。本実施形態では、全ての画像補正が1つのボタンでON/OFFされるものとしたが、これに限定されず、画像補正の種類毎にチェックボックスを備えるようにしてもよい。
OKボタン308は、表示画面301上で選択された条件をアルバム作成条件として決定するボタンである。ユーザーがOKボタン308をマウス107でクリックすると(選択すると)、アルバム作成条件が確定し、アルバム作成条件指定部201を介して、自動レイアウト処理部216にアルバム作成条件が伝えられる。具体的には、パスボックス302に入力されているパスは画像取得部202に伝えられる。主人公指定部304で選択されている主人公の個人IDは主人公情報入力部206に伝えられる。見開き数ボックス305に入力されている見開き数は見開き数入力部208に伝えられる。テンプレート指定部306で選択されているアイコンのテンプレート情報はテンプレート入力部211に伝えられる。画像補正チェックボックスの画像補正のON/OFFは画像補正条件入力部213に伝えられる。
リセットボタン309は、表示画面上の各設定情報をリセットするためのボタンである。
図4は、本実施形態に係るアルバム作成アプリケーションの自動レイアウト処理部216が実行する処理フロー図である。図4に示すフローチャートは、例えば、CPU101がHDD104に格納されたプログラムをROM102やRAM103に読み出して実行することにより実現される。図4を使って、自動レイアウトの処理フローを以下説明する。以下に示す通り、本実施形態では、アルバムを作成する際に、アルバムを作成するための画像群を撮影時間に応じて分割し、分割した各サブ画像群(以下、「区間」ともいう)からページに配置する画像を選択する。
Step01では、指定された画像群に含まれる画像に順次着目して、画像変換部203で解析画像を生成する。アルバム作成条件指定部201で指定され、HDD104から取得した画像群の各画像を所望の画素数と色情報に変換する。なお、ここで変換する画素数及び色情報は、予め決められており、プログラム又はプログラムが用いるパラメータファイルに保存されている。本実施形態では、入力された画像データを短辺420画素のサイズとsRGBの色情報とを持つ解析画像データに変換する。
Step02では、画像解析部204で画像データの画像特徴量を取得する。HDD104から取得した画像群に含まれる各画像データに付随する情報から撮影日時を取得する。本実施形態では、各画像データに付随するExif情報から撮影日時を取得する。また、Step01で生成された解析画像データから画質の特徴量を取得する。画質の特徴量としては、例えば、ピントが挙げられる。エッジの検出方法として、公知のソーベルフィルタを用いることができる。ソーベルフィルタで画像のエッジを検出し、エッジの始点と終点の輝度差を、始点と終点の距離で割ることによりエッジの傾きすなわち、輝度勾配を算出する。画像中のエッジの平均傾きを算出して、平均傾きが大きい画像は、平均傾きが小さい画像よりもピントが合っていると判定することができる。本実施形態では、複数の傾き閾値を設定し、いずれの傾き閾値以上かを判別することでピント量が許容できるか判定する。本実施形態では、異なる2つの傾き閾値を設定し、○△×の3段階でピント量を判別する。画像中のエッジの平均傾きが第1の閾値以上であれば、ピントの傾きを○(好適)、第1の閾値よりも低い第2の閾値以上であれば、ピントの傾きを△(許容できる)、第2の閾値未満であればピントの傾きを×(許容できない)とする。
Step03では、画像解析部204で各画像データにおいて顔検出をする。Step01で生成された画像データから顔を検出する。顔の検出は、公知の方法を用いることができる。公知の方法としては、例えば、複数用意した弱識別器から強識別器を作成するAdaboostが挙げられる。本実施形態では、Adaboostにより作成した強識別器により人物(オブジェクト)の顔を検出する。Step03では、顔画像を検出(抽出)すると共に、画像における検出した顔画像の位置の左上座標値と右下座標値を取得する。なお、ここでいう「画像」とはStep01で生成された画像データにより表される画像である。この2種の座標を特定することにより、人物の顔の位置と顔のサイズを特定することができる。なお、ここでは、人物の顔を検出するものとしたが、人物の顔に限らず、犬や猫等の動物、花、食べ物、建物、置物等のオブジェクトを顔の代わりの検出対象としてAdaboostによって強識別器を作成することができる。すなわち、顔以外のオブジェクトを検出するようにしてもよい。
Step04では、画像解析部204で個人認識をする。まず、Step03で抽出した顔画像と、顔辞書データベースに個人ID毎に保存されている代表顔画像との類似性を比較する。そして、類似性が閾値以上であり且つ最も類似性が高い個人IDを、抽出した顔画像のIDに決定する。すなわち、類似性が閾値以上であり且つ最も類似性が高い個人IDに対応する人物が、抽出した顔画像の人物として特定する。なお、類似性が閾値未満の場合は、抽出した顔画像に新規の人物として新規の個人IDを割り振って、顔辞書データベースに登録する。
Step02からStep04で取得した各画像データの画像解析情報は、図5に示すように、画像を識別するID毎に区別してHDD104に記憶する。Step02で取得した撮影日時情報及びピント判別結果、Step03で検出した顔の数と位置情報を各画像データの画像解析情報として保存する。なお、1つの画像データに基づく画像には、複数の顔画像が含まれる場合があるが、顔の位置情報は、Step04で取得した個人ID毎に区別して記憶する。なお、画像データにおいて顔が検出されない場合は、Step02で取得した撮影日時情報及びピント判別結果が保存される。
Step05では、アルバム作成条件指定部201で指定されたHDD104の画像群の全画像に対してStep01からStep04が終了したか否かを判定する。終了していない場合(Step05でNo)、Step01に戻る。終了している場合(Step05でYes)はStep06に移行する。
Step06では、画像分類部205でシーン分割をする。シーン分割とは、取得した画像群をシーンに応じて複数のサブ画像群に分割することを指す。具体的には、Step02で取得済みの撮影日時情報に基づいて、画像と画像との時間差を頼りに画像群を複数に分割する。分割の基準の例は以下のとおりである。画像群のうち、たとえば最も撮影日時が古い(或いは新しい)画像に最初に着目し、その次に古い(新しい)画像との時間差を参照する。これを、着目画像を順次撮影日時が新しい(或いは古い)ものに置き換えつつ以下のいずれの条件に該当するか判定を行う。なお以下の説明で分割するとは、2つの画像間を境に撮影日時の新しい方と古い方とに画像群を分割するという意味である。画像と画像の撮影日が連続していない場合、すなわち、画像間に撮影していない日が存在する場合は、分割する。次に、撮影日が連続する場合について説明する。本実施形態では、画像と画像の撮影時間の差が16時間以上空いている場合は分割する。画像と画像の撮影時間の差が16時間未満の場合は、連続する各日の最初の撮影から最後の撮影までの時間差が4時間未満なら分割する。本実施形態では、4時間以上の場合は、連続する各日の撮影枚数が50枚未満なら分割し、50枚以上であれば分割しないものとする。なお、分割の際の時間差の閾値や枚数の閾値は、これに限定されるものではない。図6(A)は、上述したシーン分割方法で分割した結果を示している。
Step07では、画像分類部205でシーン分類をする。本実施形態では、各サブ画像群(各シーン)を旅行、日常、セレモニーの3つに分類する場合を例に挙げて説明するが、分類はこれに限定されるものではない。まず、旅行、日常、セレモニーのうちいずれに分類されるかを予め判定したサブ画像群を複数取得する。各画像群について、撮影の特徴量を取得する。本実施形態で取得する特徴量は、例えば、撮影期間、撮影枚数、撮影人数である。撮影期間は、画像群の最初の撮影から最後の撮影までの時間差である。撮影枚数は、サブ画像群に含まれる画像の数(写真の枚数)である。撮影人数は、顔が写っている画像における顔の数である。すなわち、1つの画像に含まれる顔の数である。そして、複数のサブ画像群に対して、撮影期間の平均値と標準偏差、撮影枚数の平均値と標準偏差、1画像あたりの人数の平均値と標準偏差を求める。なお、本実施形態では、1画像あたりの顔の数が、1画像あたりの人数とする。図7は、撮影期間(時間)、撮影枚数(枚)、撮影人数(人)各平均値と標準偏差の一例を示す。これらの求めた値は、アルバム作成アプリケーションのプログラムに予め組み込んでおく。すなわち、予め集めた画像を使って設計段階で学習によってパラメータ作成して、プログラムに組み込んでおく。アルバム作成アプリケーションが起動された後、ユーザーがパスボックス302で指定した画像群に対して、Step06で分割されたサブ画像群毎に、撮影期間、撮影枚数、及び撮影人数のそれぞれの平均値を算出する。そして、シーン毎に、前記各サブ画像群の撮影期間、撮影枚数、撮影人数の特徴量についてそれぞれの平均値と標準偏差に基づいて、以下の式により得点化する。
シーン及び特徴量毎の得点=50−|10×(シーン及び特徴量毎の平均値−サブ画像群毎の特徴量)/シーン及び特徴量毎の標準偏差| ・・・(式1)
シーン毎の平均得点=(シーン毎の撮影期間の得点+シーン毎の撮影枚数の得点+シーン毎の人数の得点)/特徴量項目数 ・・・(式2)
式(1)及び式(2)により、着目サブ画像群の、各シーンおよび各特徴量についての得点が求められる。例えば、旅行シーンの撮影期間、撮影枚数、撮影人数それぞれの得点が求められる。これら得点を第2式により平均化して、当該シーン分類に関する得点とする。同様に、日常、セレモニーという他のシーンについても得点が得られる。以上により、旅行、日常、セレモニー毎の平均得点が算出される。サブ画像群毎に最高点のシーンをそのサブ画像群のシーンとして分類する。2以上のシーンが同点の場合は、優先シーンに応じてシーンを分類する。例えば、本実施形態では、日常>セレモニー>旅行の順に優先することが予め決められており、日常の優先度を最も高くする。なお、優先度の順番はこれに限定されるものではなく、また、ユーザーが優先度の順番を設定できるようにしてもよい。
図6(A)のシーン分割された後のサブ画像群(5)は、撮影期間が36時間、撮影枚数が300枚、撮影人数が1.7人であった。旅行の平均得点は45.32、日常の平均得点は18.38、セレモニーの平均得点は−29.92となり、サブ画像群のシーンは旅行に分類される。サブ画像群は、シーン識別ができるようにシーンIDを関連付けて管理する。
Step08では、Step06で分割された全サブ群に対してStep07のシーン分類が終了したか否かを判定する。終了していない場合(Step08でNo)、Step07に戻る。終了している場合(Step08でYes)、Step09に移行する。
Step09では、画像得点部207で主人公設定をする。主人公設定はユーザーが指定した画像群に対して実施され、自動と手動の2種類がある。自動で主人公を設定する場合、Step04の個人認識の結果と、Step06のシーン分割の結果に基づいて設定をする。Step04で取得した結果から、サブ画像群に登場する各個人IDの回数、各シーンに登場する各個人IDの回数、各個人IDが登場するシーンの回数等を特定し、これらの情報から自動で主人公を設定する。本実施形態では、サブ画像群に複数シーンがある場合は複数のシーンに登場する個人IDを主人公IDと設定し、サブ画像群が単一シーンである場合は、単一シーンの登場回数が多い個人IDを主人公IDと設定する。主人公指定部304でユーザーが特定のアイコンを指定している場合は、主人公情報入力部206を介して選択されたアイコンに対応する個人IDが画像得点部207に伝えられる。ユーザー指定の個人IDがある場合は、上述した自動設定の主人公IDは無視して、ユーザー指定の個人IDを主人公IDと設定する。このように、主人公指定部304の指定に基づく設定を手動設定とする。
Step10では、画像得点部207で得点化をする。得点化とは、後述する画像選択時に参照する値であり、画像データ毎に後述する観点で評価した得点を付ける。ここで、図8及び図10を用いて、得点化方法について説明する。
図10は、3枚の画像をレイアウトする際に用いるテンプレート群を示している。図10の(1−1)に示すテンプレート1001は、1つのテンプレートであり、メインスロット1002と、サブスロット1003と、サブスロット1004を有する。メインスロット1002とは、テンプレート1001でメインとなるスロット(画像をレイアウトする枠)であり、サブスロット1003やサブスロット1004よりもサイズが大きい。すなわち、メインスロットとは、各テンプレートにおいて、最もサイズが大きいスロットである。また、サブスロットとは、各テンプレートにおいて、メインスロット以外のスロットである。メインスロット用の得点とサブスロット用の得点の両方を各画像データに付ける。
次に、図8(A)に画像データの得点化の基準を示す。より具体的には、図8(A)は、旅行、日常、セレモニーの各シーン毎に得点が高くなる画像の特徴をまとめた表である。なお、図8(A)に示すように、スロットの種類に応じて、得点が高くなる特徴が異なる。例えば、サブ画像群のシーン分類が旅行である場合、人物と風景が入ったひいた画像は、メインスロットとしての得点が高くなり、顔のアップや横顔の画像は、サブスロットとしての得点が高くなる。例えば、サブ画像群のシーン分類が日常である場合、顔のアップや横顔の画像は、メインスロットとしての得点が高くなり、人物と風景が入ったひいた画像は、サブスロットとしての得点が高くなる。例えば、サブ画像群のシーン分類がセレモニーである場合、2人の距離が近い画像は、メインスロットとしての得点が高くなり、大人数の画像は、サブスロットとしての得点が高くなる。このように、シーン及びスロットの種類に応じて、得点が高くなる特徴、言い換えれば、評価基準が異なる。本実施形態では、シーン及びスロットの種類に応じた得点が高くなる特徴は、アプリケーションにおいて予め設定しておき、プログラムに含むものとする。なお、得点が高くなる特徴は、上述したものに限定されるものではない。図8(A)に示す各シーンのメインスロットとサブスロットのそれぞれの特徴に基づいて、各サブ画像群に含まれる各画像データに得点を付ける。各画像における顔の数、各画像における顔の位置、各画像における顔のサイズを取得し、平均値と標準偏差を各シーン各スロット種類(メインスロットとサブスロット)に対して求めて、アルバム作成アプリケーションのプログラムに記憶しておく。ユーザーが指定した画像群の各画像データが表す画像がいずれのシーンに属するか(分類されるか)は、Step07のシーン分類の結果から特定する。そして、注目画像のシーンに対応する予め求めた前記平均値と標準偏差、注目画像における主人公IDの顔の数、顔の位置、顔サイズの各特徴量に基づいて以下の式を使って得点と平均得点を出す。下式において得点、平均値、標準偏差は、シーン分類、スロット種類及び特徴量ごとに求められる。
得点=50−|10×(平均値−特徴量)/標準偏差|
平均得点=(顔数の得点+顔位置の得点+顔サイズの得点)/特徴量項目数
なお、得点化は、メインスロット用とサブスロット用の両方を実施する。またアルバムに使う画像は、図5に示すピントの特徴量が○である画像IDの画像に対しては得点を加算してもよい。これにより、ピントが合っている画像の得点を高くすることができる。図8(B)は、各画像の得点結果の一例を示しており、各画像IDに対して、メインスロットとサブスロットの得点が付けられている。
Step11では、画像得点部207がユーザー指定の画像群の全画像に対してStep10の画像得点化が終了したか否かを判定する。終了していない場合(Step11でNo)、Step10に戻る。終了している場合(Step11でYes)、Step12に移行する。
Step12では、見開き割当部209が、画像分類部205のシーン分割により得られたシーン数(サブ画像群の数)が見開き数入力部208により入力される見開き数と同じか否かを判定する。同じでない場合(Step12でNo)、Step13に移行する。同じ場合(Step12でYes)、Step16に移行する。例えば、図6(A)のシーン分割数が8であり、見開き数入力部208の入力数が8であればStep16に移行する。
Step13では、見開き割当部209が画像分類部205のシーン分割により得られたシーン数が見開き数入力部208により入力される見開き数より少ないか否かを判定する。シーン数が見開き数より少なくない場合(Step13でNo)、Step15に移行する。シーン数が見開き数より少ない場合(Step13でYes)はStep14に移行する。例えば、図6(A)のシーン分割数が8であり、見開き数入力部208の入力数が10であれば、シーン数が見開き数より少なくないため、Step14に移行する。
Step14では、見開き割当部209がサブシーン分割をする。サブシーン分割とは、シーン分割数<見開き数の場合に分割されたシーンを更に細分割することを指す。図6(A)のシーン分割数8に対して指定見開き数が10である場合を例に挙げて説明する。図6(B)では、図6(A)をサブシーン分割した結果である。破線矢印の箇所でサブ画像群をさらに分割したことで、分割数を10にしている。サブシーン分割する基準は、画像枚数および撮影日時である。図6(A)の分割の中で画像枚数が多いサブ画像群を特定する。ここでは、シーン数を8から10に2つ増やしたいため、画像枚数が多い2つのサブ画像群を特定する。すなわち、再分割すべき数のシーンを、最も多くの画像を含むシーンから順に指定する。画像数が同数のシーンについては、画像間の撮影日時の差の最大値が大きい方のシーンを選択する。それでも決定できない場合には、たとえば時間的に早いシーンを優先的に再分割するなど、適宜決めておけばよい。多い方からサブ画像群5、次にサブ画像群1とサブ画像群2である。本実施形態では、サブ画像群に含まれる枚数が同じである場合は、サブ画像群に含まれる最初の画像と最後の画像の時間差が大きい方のサブ画像群を分割する。サブ画像群1とサブ画像群2は、含まれる画像の同じ枚数だが、サブ画像群2の方が最初の画像から最後の画像の時間差が大きいため、サブ画像群(2)を分割対象とする。すなわち、図6では、サブ画像群5とサブ画像群2をそれぞれさらに分割する。まず、サブ画像群2の分割方法について説明する。サブ画像群2には、画像枚数の山が2つあり、この2つは撮影日が違う。この場合は、撮影日が変わる箇所(図6(B)の破線矢印の箇所)で分割する。次に、サブ画像群5の分割を説明する。サブ画像群5には画像枚数の山が3つあり、この3つは撮影日が違う。この場合も、撮影日が変わる箇所で分割する。このとき、撮影日が変わる箇所が2箇所あるが、分割後の各画像群の枚数差が小さくなるように分割する。図6(B)では、サブ画像群5では、2日目と3日目の境目で分割した方が、1日目と2日目の境目で分割するよりも分割後の各画像群の枚数差が小さくなるので、2日目と3日目の境目で分割する。すなわち、図6(B)の破線矢印の箇所で分割する。以上により分割数を8から10にする。ここでは撮影日の違う箇所で分割したが、画像枚数が多いサブ画像群が単一日で撮影されたものである場合は、単一日の中で時間差が最大の箇所で分割する。
Step15では、見開き割当部209がシーン統合をする。シーン統合とは、シーン数が見開き数よりも多い場合、分割されたシーン(サブ画像群)を統合する。具体的には、シーン数と見開き数が一致するように、シーン統合をする。図6(C)は、見開き数が6の場合、図6(A)をシーン統合してシーン数を6とした結果である。破線の箇所を統合、言い換えれば、破線の箇所での分割をしないことで、シーン数(サブ画像群の数)を6にする。シーン統合では、画像枚数が少ないサブ画像群を特定する。ここでは、分割数を8から6に2つ減らしたいため、画像の枚数が少ないサブ画像群を特定する。画像枚数が少ないサブ画像群は、少ない方からサブ画像群8、サブ画像群3、サブ画像群7である。したがって、まず、サブ画像群8を統合対象とする。次に、サブ画像群3とサブ画像群7は、画像の枚数は同じである。ただし、サブ画像群7に隣接するサブ画像群8が統合対象であるため、サブ画像群3を統合対象とする。次に、統合対象のサブ画像群を、撮影日時が前のサブ画像群に統合するか、撮影日時が後のサブ画像群に統合するかを決定する。まず、サブ画像群3の統合を説明する。サブ画像群3の前後のサブ画像群2とサブ画像群4との時間差を比較すると、サブ画像群3の最後の画像とサブ画像群(4)の最初の画像との撮影時間の差の方がサブ画像群3の最初の画像とサブ画像群(2)の最後の画像との撮影時間の差よりも小さい。したがって、サブ画像群3は、サブ画像群4に統合すると決定する。すなわち、図6(C)の破線の箇所を統合する。次に、サブ画像群8の統合を説明する。サブ画像群8は、後のサブ画像群がない為、前のサブ画像群7と統合する。すなわち、図6(C)の破線箇所で統合する。なお、本実施形態では、撮影時間の差が小さいサブ画像群同士を統合することにしたが、これに限定されるものではない。例えば、統合対象のサブ画像群を撮影枚数が少ないサブ画像群に統合するようにしてもよい。
Step16では、見開き割当部209が見開き割当をする。Step12〜Step15によって、サブ画像群の数と指定見開き数は同じになっている。本実施形態では、撮影日時が先頭のサブ画像群から見開きの先頭に割り当てる。すなわち、撮影日時順にサブ画像群をアルバムの各見開きのページに割当てる。これにより、撮影日時順にサブ画像群が並んだアルバムを作成することができる。なお、後述する通り、1つの見開きページ内では、画像は撮影日時に並んでいなくてもよい。
Step17では、画像選択部210が各サブ画像群から所定枚数の画像を選択する。図9を用いて、ある見開きに割り当てられたサブ画像群から画像を4枚選択する場合を例に挙げて説明する。なお、ここでは、見開きとは、2ページを指し、最初の見開き及び最後の見開きは、1ページとする。図9(A)は、見開きに割り当てられたサブ画像群に含まれる最初の画像から最後の画像のまでの撮影日時の時間差、言い換えれば、サブ画像群の撮影期間を示す。図9(B)を使って、4枚選択する際の1枚目を選択する方法を説明する。テンプレートには、1つのメインスロット1002がある。1枚目は、メインスロット用の画像を選択する。図9(B)に示すサブ画像群の撮影期間に撮影された全ての画像のうちStep10で付けたメインスロット用の得点が最高点の画像を選択する。そして、2枚目以降はサブスロット用の画像を選択する。本実施形態では、サブ画像群の撮影期間を細分化して画像を選択することにより、サブ画像群の撮影期間の一部に集中しないようにする。まず、図9(C)のようにサブ画像群の撮影期間を2分割して、2つの撮影区間(期間)とする。すなわち、サブ分割撮影期間を2等分して2つの撮影区間にする(グループ分けする)。次に、図9(D)のように1枚目が選ばれていない撮影区間(実線の区間)からサブスロット用の得点が最高点の画像を2枚目として選択する。次に、図9(E)のように、図9(D)の各撮影区間をそれぞれ2等分する。図9(F)の実線撮影区間、すなわち、1枚目と2枚目が選ばれていない2つの撮影区間に撮影された画像(2つの撮影区間に対応する画像)のうちサブスロット用の得点が最高点の画像を3枚目として選択する。次に、画像を選択する撮影区間に画像が存在せず、画像選択できない例を4枚目の選択を例に挙げて説明する。本実施形態では、画像の枚数に関わらず、時間に応じて撮影期間を分割している。したがって、分割して得られた撮影区間に画像が存在しない場合がある。例えば、図9(G)のように、まだ画像が選ばれていない撮影区間(斜線の撮影区間)から4枚目を選択したいが、この斜線撮影区間には画像が存在しないとする。この場合は、図9(H)のように、画像を選択済みの各撮影区間をそれぞれ2分割する。次に、図9(I)のように、1〜3枚目が選ばれていない実線の撮影区間に撮影された画像のうちサブスロット用の最高点の画像を4枚目として選択する。図11は、図2で示した画像選択部210をより詳細に説明する図である。画像選択部210は、ある見開きに割り当てられたサブ画像群から画像を選択する。
枚数設定部1101は、処理対象の見開きに割り当てられたサブ画像群から選択する総画像枚数を設定する。いかえれば、見開きのレイアウト画像に配置する画像数を設定する。
画像群取得部1102は、画像取得部202が取得した画像群から見開きに割り当てられたサブ画像群を取得する。画像群を取得する際には、各画像の撮影日時情報、メインスロット用得点、及びサブスロット用得点を取得する。
ループカウンタ1103は、画像を選択する処理を実行した回数を管理する。なお、画像を選択する処理は、図9で説明した方法により実行される。管理された回数は、利用する得点軸の判定、及び処理対象の見開きに割り当てられたサブ画像群の撮影期間をいくつの撮影区間に分割するかを設定する際に利用する。
得点軸設定部1104は、ループカウンタ1103でカウントされた処理回数に応じて、利用する得点軸を設定する。「利用する得点軸を設定する」とは、「画像の評価基準を設定する」ことを指し、ここでは、Step10で算出したメインスロット用得点軸(メインスロット用評価基準)、サブスロット用得点軸(サブスロット用評価基準)のどちらかを設定する。本実施形態では、これらを切り替えることにより設定する。このように、スロット毎に評価基準を設定する。ここでは、例えば、1回目はメインスロット用得点軸を設定して、メイン画像を選択する処理を実行するように設定し、2回目以降はサブスロット用得点を設定して、サブ画像を選択する処理を実行するように設定する。本実施形態では、利用する得点軸として、メインスロット用得点軸、サブスロット用得点軸を例に挙げて説明したが、別の得点軸を用いてもよい。例えば、メインスロット用得点軸、サブスロット用得点軸に加えて、さらに、人物用関連度得点軸を用いるようにしてもよい。なお、人物関連度は、例えば、人物の登場回数や一緒に写った回数に基づいて得点化することができる。具体的には、登場回数が多い場合は、関連度が高いと判定することができ、一緒に写った回数が多いと関連度が高いと判定することができる。また、各得点軸を切り替えるようにしたが、メインスロット用得点、サブスロット用得点、人物関連度用得点軸などを組み合わせた統合得点軸を用いてもよい。このとき、統合得点を算出する際の各得点軸の重みを変更してもよい。また、処理する回数によって利用する得点軸をランダムに変更してもよいし、予め用意したテーブルを参照して得点軸を切り替えるようにしてもよい。
分割部1105は、撮影期間を所定の区間数に分割する。まず、画像群取得部1102により取得されたサブ画像群の撮影時間から、処理対象の見開きに割り当てられたサブ画像群の撮影開始時間と撮影終了時間を特定し、撮影期間を算出する。すなわち、サブ画像群に含まれる画像のうち最も早く撮影された画像の撮影時間および最も遅く撮影された画像の撮影時間を特定し、撮影期間を算出する。次に、ループカウンタ1103でカウントされた処理回数に基づいて、算出された撮影期間を均等に分割して撮影区間とする。撮影区間の分割数は、カウントに基づいた2のべき乗で設定する。本実施形態では、カウントに基づいた2のべき乗で撮影期間を均等に分割する方法を説明したが、これに限定されず、撮影期間をカウント数で均等に分割してもよい。また、撮影期間分割部1105は、分割された各区間の開始時刻および終了撮影時刻が出力される。
区間情報設定部1106は、画像群取得部1102で取得したサブ画像群に含まれる画像を、分割部1105で分割された区間ごとにグループ分けして、画像の撮影情報、各画像の得点等の各区間の情報を格納する。
画像選択部1108は、得点軸設定部1104で設定された得点軸と、区間情報設定部1106で設定された画像の得点とに基づいて各区間から得点の高い画像を1枚選択する。図9を用いて説明した通り、画像が1枚もない区間からは画像は選択しない。本実施形態では、各区間から画像を1枚選択するものとしたが、各区間から複数枚ずつ選択するようにしてもよい。
類似判定部1109は、区間ごとに、選択された画像に対して、前カウンタで選択された画像との類似判定を行う。判定閾値以上であれば、類似していると判定し、判定閾値未満であれば、類似していないと判定する。類似していないと判断された場合は、その区間から選択された画像を保持しておき、類似していると判断された場合は、その区間の選択画像を破棄する。類似判定は、パターンマッチングによる判定、SHIFT法を用いた判定などを用いることができる。類似判定に用いる判定閾値は、比較する画像の撮影時間差に応じて変更する。例えば、類似判定結果が0〜100のレンジで出力される場合に100に近いほど似ているとし、判定閾値以上であれば類似していると判定し、判定閾値未満であれば類似していないと判定する。連写などにより撮影時間差が短い場合(例えば15秒以内)は、判定閾値を低く設定する(例えば、60に設定する)。それ以外は判定閾値を80に設定する。判定閾値を低くすることにより、類似していると判断されやすくなり、少しの類似であっても類似画像と判断され、選択画像が解除されることになる。本実施形態では、このように、撮影時間差に応じて判定基準を変更する。
統合部1112は、類似判定部1109で非類似と判定された各区間の画像から、最終的に残す画像を選別する。複数区間から画像が選択された場合にいずれの区間の画像を選別するかを判断する。画像を判断する際には、区間内画像選択部1108で判定したのと同じ得点を用い、得点の高い画像を選択する。本実施形態では、得点の高い画像を選択するものとしたが、これに限定されるものではない。例えば、画像が選択された区間のうち、隣接する区間から画像が選択されていない区間から選択するようにしてもよい。
画像管理部1113は、統合部1112で選択された画像を選択画像として追加し、枚数設定部1101で設定された必要枚数を超えていないかを判定する。必要枚数に到達した場合は画像選択処理を終了する。必要枚数に達成していない場合は、ループカウンタ1103をカウントアップし、上述した画像選択処理を再度実行する。
図12は、図11に示す画像選択の処理フロー図である。処理対象の見開きに割り当てられたサブ画像群から画像を選択する詳細フローを説明する。
S1201では、枚数設定部1101が、処理対象の見開きに割り当てられたサブ画像群から選択する総画像枚数を設定する。すなわち、処理対象の見開きに対する画像データの選択数設定を行う。
S1202では、画像群取得部1102が、画像取得部202が取得した画像データ群の画像データから、処理対象の見開きに割り当てられたサブ画像群(サブ画像データ群)に対応する画像データを取得する。
S1203では、ループカウンタ1103が、画像を選択する処理を実行した回数をカウントする。初期状態では、画像を選択する処理が実行されていないので0となる。
S1204では、得点軸設定部1104が、利用する得点軸を設定する。本実施形態では、ループカウンタで管理される画像選択処理回数に応じて、利用する得点軸を設定する。
S1205では、分割部1105が、処理対象の見開きに割り当てられたサブ画像群に含まれる画像の撮影開始時間および撮影終了時間からサブ画像群の撮影期間を割り出す。ここで、撮影開始時間とは、処理対象の見開きに割り当てられたサブ画像群に含まれる画像のうち最も古い画像の撮影時間であり、撮影終了時間とは、サブ画像群に含まれる画像のうち最も新しい画像の撮影時間である。そして、ループカウンタ1103でカウントされた処理回数に基づいてサブ画像群の撮影期間を区間に均等に分割する。なお、1回目のループでは、処理が実行されていないため、分割されない。
S1206では、区間情報設定部1106が、取得したサブ画像群の画像データを、分割された区間ごとにグループ分けして、区間毎に各画像の撮影情報、各画像の得点を取得する。S1207では、分割部1105により分割された着目区間の画像が選択済みか否かを判定する。着目区間が選択済みの区間であれば、S1211へ進む。未選択の区間であれば、S1208に進む。なお、1回目のループでは、区間が分割されていないため、着目区間は1つである。
S1208では、画像選択部1108が着目区間から画像を1枚選択する。
S1209では、類似判定部1109が、区間ごとに、着目区間の画像に対して、前カウンタで選択された選択画像との類似判定を行う。類似していないと判定された場合は、その区間から選定された画像を保持し、S1211へ進む。類似していると判定された場合は、その区間の選択画像を解除し(S1210)、S1211へ進む。
S1211では、画像選択を行う処理がS1205で分割した全区間に対して実行されたかを判定し、全区間に対して実行された場合は、S1212へ進む。S1205で分割した全区間に対して実行されていない場合は、S1206へ戻り、画像選択の未選択区間に対して画像選択を実施する。
S1212では、統合部1112が、類似判定部1109で非類似と判定された各区間の画像から、最終的に残す画像を選別する。すなわち、S1207〜S1211で2以上の画像が残った場合、残す画像を選別する。
S1213では、画像管理部1113が、選択された画像を選択画像に対して追加し、総選択枚数を管理する。
S1214では、画像管理部1113により管理されている総選択枚数が、枚数設定部1101で設定された必要枚数と一致しているかを判定する。必要枚数と総選択枚数が一致した場合は画像選択処理を終了する。総選択枚数が必要枚数未満の場合は、S1203へ戻って画像選択処理を続行する。その際、ループカウンタ1103により管理されているカウンタを1アップする。その結果、連動している分割部1105により前回よりも2倍多い区間分割が設定される。区間がより細かく分割されることにより、区間内での画像に対する得点によるランクが変化するので、前回では選択されなかった画像が選択される。
図4に戻って、Step18では、画像レイアウト部212が処理対象の見開きの画像レイアウトを決定する。テンプレート入力部211は、指定のテンプレート情報に従ってある見開きに対して図10の(1−1)〜(4−4)を入力した場合を例に挙げて説明する。入力されたテンプレートのスロット数は3である。選択されている画像3枚の画像の向きが縦方向か横方向かを撮影日時の順に並べると図10(A)であったとする。ここでは、画像1005がメインスロット用として選択された画像であり、画像1006と画像1007がサブスロット用として選択された画像とする。本実施形態では、テンプレートの左上に撮影日時のより古い画像、右下に撮影日時のより新しい画像をレイアウトするものとする。画像1005は、撮影日時が一番新しく且つメインスロット用の画像であるため、図10(4−1)〜(4−4)のテンプレートが候補となる。そして、サブスロット用の古い方の画像1006、すなわち、左上に配置したい画像が縦画像で、新しい方の画像1007が横画像である。したがって、(4−2)が、選択された画像に最も適したテンプレートとしてレイアウトが決まる。このようにStep18では、レイアウトに用いるテンプレートと、テンプレートのいずれのスロットにいずれの画像をレイアウトするかを識別できる情報が決定する。
Step19では、画像補正部214が画像補正をする。画像補正の条件入力部がONを入力した場合は、画像補正を実施する。本実施形態では、画像補正として、覆い焼き補正、赤目補正、コントラスト補正を自動で実施する。画像補正の条件入力部がOFFを入力した場合は、画像補正を実施しない。補正する画像の画素数は短辺1200画素で、sRGBの色空間に変換した画像に対して画像補正ON/OFFを実施する。
Step20では、レイアウト情報出力部215がレイアウト情報を作成する。Step18で決まった通りに各画像をレイアウトする。このとき、テンプレートが有する各スロットのサイズ情報に合わせてレイアウトする画像を変倍してレイアウトする。なお、ここで用いる画像は、Step01で生成した解析画像であり、Step02〜18で用いた画像とは異なる画像である。そして、テンプレートに画像をレイアウトしたビットマップデータを生成する。
Step21はStep17〜Step20が全ての見開きに対して終了したか否かを判定する。終了していない場合(Step21でNo)はStep17に戻る。終了している場合(Step21でYes)は自動レイアウト処理を終了する。
本実施形態では、各見開きページに割り当てられたサブ画像群に対して、撮影期間で区間分割して画像を選択する処理を、レイアウトに必要な枚数分繰り返す。これにより、サブ画像群の各期間からまんべんなく画像を選択することができる。したがって、画像の枚数が少ない撮影期間からも画像(写真)を選択することができる。したがって、アルバムを作成した際に、旅行や結婚式といった特別なイベントで撮影される写真だけでなく、撮影枚数が少ないシーン(例えば、日常の何気ないシーン)の画像をレイアウトすることができる。すなわち、本実施形態によれば、アルバムを作成する際に、撮影枚数に関わらず、各撮影時間の画像をまんべんなく選択して、レイアウト画像を自動で生成することができる。
(実施形態2)
本実施形態では、画像選択時に画像の種類に応じて画像選択方法を変更するする。なお、実施形態1と重複する説明は省略する。また、実施形態1と同一のものには同一の符号を付す。画像の種類としては、静止画像、動画の切り出し画像、SNS画像等が挙げられる。
図13は、本実施形態に係る画像選択部210の詳細説明図である。図11と同一の符号を記載している部分は、実施形態1と同様であるため、説明を省略する。
画像種類設定部1301は、ループカウンタ1103により設定された処理回数に応じて、画像選択部1108で選択される画像の種類を設定する。本実施形態では、ループカウントが1の場合、すなわち、処理回数が1回目は、SNS画像から選択する。ループカウントが2の場合、すなわち、処理回数が2回目は、動画の切り出し画像から選択する。ループカウントが3以降の場合、すなわち、処理回数が3回目以降は静止画像から選択するように設定する。なお、ループカウントが1であり、画像群取得部1302が取得したサブ画像群にSNS画像が存在しない場合は、その他の画像から選択する。同様に、ループカウントが2であり、画像群取得部1302が取得したサブ画像群に動画の切り出し画像が存在しない場合は、その他の画像から選択する。本実施形態では、ループカウントが1であり、SNS画像が存在しない場合、及び、ループカウントが2であり、動画の切り出し画像が存在しない場合、いずれも、静止画像から選択するようにする。画像群取得部1302は、処理対象の見開きに割り当てられたサブ画像群を取得する。サブ画像群を取得する際には、各画像の撮影日時情報、画像種類、メインスロット用得点、及びサブスロット用得点を取得する。本実施形態では、画像種類は、静止画像、動画切り出し画像、SNS画像の3つに分類するものとしたが、これに限定されるものではない。上述した3つ以外の画像種類を区別するものとしてもよいし、デジタルカメラで撮影した静止画像と、スマートデバイスで撮影した静止画像などのように静止画像をさらに詳細に区別してもよい。
区間情報設定部1306は、画像群取得部1302で取得したサブ画像群に含まれる画像を、分割部1105で分割された区間ごとにグループ分けする。画像種類設定部1301が設定した画像種類の画像を選別して、対象の種類の画像に関する画像の撮影情報、各画像得点を区間ごとに格納する。
図14は、画像種類に応じた画像選択処理の詳細フロー図である。
S1201では、枚数設定部1101が、処理対象の見開きに割り当てられたサブ画像群から選択する総画像枚数を設定する。
S1401では、画像群取得部1302が、処理対象の見開きに割り当てられたサブ画像群に含まれる各画像の撮影日時情報、画像種類、画像得点を取得する。
S1203では、ループカウンタ1103が、画像を選択する処理を実行した回数をカウントする。ループカウンタは選択する画像の種類によらず、画像選択回数をカウントする。
S1204では、得点軸設定部1104が、利用する得点軸を設定する。本実施形態では、ループカウンタで管理される画像選択処理回数に応じて、利用する得点軸を設定する。
S1402では、画像種類設定部1301が、画像選択部1108がサブ画像群から選択する画像の種類を設定する。ループカウントが1の場合、すなわち、処理回数が1回目の場合、本実施形態ではSNS画像を選択するように設定する。ループカウントが2の場合、すなわち、処理回数が2回目の場合、動画切り出し画像を選択するように設定する。ループカウントが3以降の場合、すなわち、処理回数が3回目以降の場合、静止画像を選択するように設定する。
S1205では、分割部1105が、処理対象の見開きに割り当てられたサブ画像群の撮影開始時間および撮影終了時間から撮影期間を割り出し、ループカウンタ1103でカウントされた処理回数に基づいて、撮影期間を区間に均等に分割する。
S1403では、区間情報設定部1306が、各区間に設定された画像種類と合致する画像を選択し、それぞれの撮影情報、各画像得点を格納する。すなわち、ある区間(第1区間)にSNS画像が設定されている場合は、その第1区間からSNS画像の撮影情報、SNS画像(2以上ある場合は各画像)の得点を格納する。ある区間(第2区間)に動画から切り出した画像が設定されている場合は、その第2区間から動画から切り出した画像の撮影情報、動画から切り出した画像(2以上ある場合は各画像)の得点を格納する。ある区間(第3区間)に静止画像が設定されている場合は、その第3区間から静止画像の撮影情報、静止画像(2以上ある場合は各画像)の得点を格納する。S1207〜S1214は、実施形態1と同様であるため説明を省略する。
本実施形態では、S1402において画像種類を設定することにより、S1403で区間情報設定部1306が、予め指定された画像種類のみに絞り込んで選択している。したがって、S1408で、選択される画像は、指定された画像種類のものとなる。具体的には、本実施形態では、図14に示すフローを実行することにより、SNS画像、動画切り出し画像、静止画像の順で画像選択が行われる。ここで、上述した通り、本実施形態では、すでに画像が選択された区間からは、画像の選択を行わない。そのため、静止画像は、SNS画像及び動画切り出し画像が選択されていない区間から選択し、動画切り出し画像は、SNS画像が選択されていな区間から選択することになる。
処理対象の見開きに割り当てられたサブ画像群にSNS画像や動画切り出し画像が1枚もない場合は、静止画像が選択される。具体的には、S1203〜1212を実行し、S1213では、総選択画像枚数がカウントアップしない。そして、S1214では、総選択画像枚数が必要枚数と同一とはならないため、S1203に戻り、ループカウンタ1103がカウントアップされる。これにより、サブ画像群から静止画像が選択される。本実施形態では、実施形態1と同様に、各見開きページに割り当てられたサブ画像群に対して、撮影期間で区間分割して画像を選択する処理を、レイアウトに必要な枚数分繰り返す。これにより、サブ画像群の各期間からまんべんなく画像を選択することができる。したがって、画像の枚数が少ない撮影期間からも画像(写真)を選択することができる。したがって、アルバムを作成した際に、旅行や結婚式といった特別なイベントで撮影される写真だけでなく、撮影枚数が少ないシーン(例えば、日常の何気ないシーン)の画像をレイアウトすることができる。すなわち、本実施形態によれば、アルバムを作成する際に、撮影枚数に関わらず、各撮影時間の画像をまんべんなく選択して、レイアウト画像を自動で生成することができる。
さらに、本実施形態によれば、選択する画像の種類を設定して、アルバムを自動で生成することができる。具体的には、ループカウントが1の場合に設定する画像種類をSNS画像とし、ループカウントが2の場合に設定する画像種類を動画切り出し画像とした。すなわち、画像選択の優先度の順を、高い方から順にSNS画像、動画切り出し画像、静止画像とした。これにより、サブ画像群にSNS画像がある場合は、SNS画像は、他の画像よりも高い優先度で選択されるものとし、動画切り出し画像は、静止画像よりも高い優先度で選択されるものとした。これにより、Step20において、Step18で決まった通りに各画像をレイアウトすることで、SNS画像、動画切り出し画像、静止画像が混在した見開きページを生成することができる。ここで、SNS画像は、ユーザーがお気に入りの画像である可能性が高い。したがって、SNS画像の優先度を高く設定することにより、Step20において、SNS画像が含まれる見開きページを作成することができ、ユーザーがお気に入りの画像を配置したアルバムを作成することができる可能性が高くなる。また、ユーザーが撮影した動画がある場合、その動画にはユーザーの興味が強い場面が撮影されている可能性が高い。したがって、動画切り出し画像の優先度を高く設定することにより、Step20において、動画切り出し画像が含まれる見開きページを作成することができ、ユーザーの興味が強い場面の画像を配置したアルバムを作成することができる可能性が高くなる。すなわち、本実施形態によれば、ユーザーの好みの画像を配置したアルバムを作成することができる可能性が高くなる。
(他の実施形態)
本発明は上述した実施形態に限定されるものではない。例えば、上述した実施形態では、アルバム作成アプリケーションを例に挙げて説明したが、お勧め画像を自動選択するような画像選択処理を備えるアプリケーションや画像処理装置であってもよい。
また、図1では、ローカル環境を想定した画像処理装置を例に挙げて説明したが、画像処理装置はこれに限定されるものではない。例えば、サーバ上の画像処理装置であってもよい。この場合は、サーバ内に保存されている画像を利用又は画像をアップロードするようにすればよい。
上述した実施形態では、図9に示すように、画像を選択してから順に区間に分割するようにしたが、これに限定されるものではない。例えば、選択する画像の枚数に応じて、予めその数に区間を設定するようにしてもよい。この場合の選択方法について、図9を用いて説明する。なお、4枚の画像を選択したい場合について説明する。まず、図9の(E)に示すように撮影期間を4等分する。そして、区間に関わらず、1枚目の画像を選択する。次に、2枚目の画像は、1枚目の画像が選択されていない3つの区間から選択する。次に、3枚目の画像は、1枚目の画像も2枚目の画像も選択されていない2つの区間から画像を選択する。4枚目の画像は、1枚目の画像も2枚目の画像も3枚目の画像も選択されていない区間から選択する。なお、その区間に画像が存在しない場合は、図9(H)と同様に、1枚目の画像を取得した区間、2枚目の画像を取得した区間、3枚目の画像を取得した区間を分割して、画像を選択すればよい。
上述した実施形態では、画像が写真であるものとし、撮影日時に基づいてグループ分けをするようにしたが、画像を作成した日時でグループ分けをするようにしてもよい。
上述した実施形態では、分割した1つの撮影区間から画像を1枚選択する方法を説明したが、分割した1つの撮影区間から複数枚の画像を選択するようにしてもよい。このとき、画像を未選択の撮影区間ができるだけ生じないようにする。また、例えば、画像種類が異なる場合にのみ、撮影区間から複数枚の画像を選択できるようにしてもよい。すなわち、例えば、1つの撮影区間からは、静止画像は1枚のみ選択できるようにするが、1つの撮影区間からSNS画像と静止画像を選択したり、動画から切り出された画像と静止像とを選択したりすることができるようにしてもよい。
実施形態2では、ループカウントが3以降の場合、静止画像を選択するように設定したが、これに限定されず、ループカウントが3以降の場合は、画像種類はいずれでもよいと設定するようにしてもよい。これにより、3枚目以降は、すべての画像種類(SNS画像、動画切り出し画像、静止画像)のうち、得点が高いものが選択されるようになる。
また、実施形態2では、SNS画像及び動画切り出し画像がそれぞれ1枚ずつ選択されるようにしたが、これに限定されず、複数枚のSNS画像を選択するようにしてもよいし、複数枚の動画切り出し画像を選択するようにしてもよい。このとき、選択するSNS画像の枚数と、選択する動画切り出し画像の枚数は、異なる枚数としてもよい。なお、この場合、できるだけSNS画像や動画切り出し画像を選択したい場合は、ループカウント3以降で各ループカウントに対して選択する画像種類を1つ設定すればよい。
実施形態2では、サブ画像群から画像を選択する際の画像種類の順を、SNS画像、動画切り出し画像、静止画像の順としたが、これに限定されず、他の順で選択するようにしてもよい。
また、実施形態2では、SNS画像及び動画切り出し画像のいずれも選択されるようにしたが、これに限定されず、SNS画像又は動画切り出し画像の少なくともいずれか一方が選択されるようにしてもよい。この場合は、ループカウントが1の場合に、S1402では、SNS画像又は動画切り出し画像を画像種類として設定し、ループカウントが2以降の場合、S1402では、静止画像を画像種類として設定すればよい。なお、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、プログラムは、1つのコンピュータで実行させても、複数のコンピュータを連動させて実行させるようにしてもよい。また、上記した処理の全てをソフトウェアで実現する必要はなく、一部または全部をハードウェアによって実現するようにしてもよい。
101 CPU
102 ROM
103 RAM
104 HDD
105 ディスプレイ
106 キーボード
107 マウス
108 データ通信装置
109 データバス
201 アルバム作成条件指定部
202 画像取得部
203 画像変換部
204 画像解析部
205 画像分類部
206 主人公情報入力部
207 画像得点部
208 見開き数入力部
209 見開き割当部
210 画像選択部
211 テンプレート入力部
212 画像レイアウト部
213 画像補正条件入力部
214 画像補正部
215 レイアウト情報出力部
301 表示画面
302 フォルダパスボックス
303 ファイル選択ボタン
304 主人公指定部
305 見開き数ボックス
306 テンプレート指定部
307 チェックボックス
308 OKボタン
309 リセットボタン

Claims (20)

  1. 複数の画像データを含む画像データ群を取得する取得手段と、
    選択する画像データの数を設定する選択数設定手段と、
    前記取得手段により取得した画像データ群の各画像データの撮影日時を特定する特定手段と、
    前記特定手段により特定した撮影日時に基づき、前記取得手段により取得した画像データ群の撮影期間を複数の撮影区間に分割する分割手段と、
    前記取得手段により取得した画像データ群から前記選択数設定手段により設定された数の画像データを選択する選択手段と、
    を有し、
    前記選択手段は、前記選択数設定手段により2以上の数が設定された場合、前記分割手段の分割により得られた各撮影区間に対応する各画像データ群からそれぞれ画像データを選択することを特徴とする画像処理装置。
  2. 前記選択手段は、1つの撮影区間に対応する画像データ群からは少なくとも1つの画像データを選択することを特徴とする請求項1に記載の画像処理装置。
  3. 前記選択手段により選択された画像データに基づく画像を配置することにより、レイアウト画像を生成する生成手段をさらに有することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記選択手段は、前記取得手段により取得した画像データ群から動画から切り出された画像及びソーシャルネットワーキングサービスから取得した画像のうち少なくとも一方と、静止画像とを選択し、
    前記生成手段は、動画から切り出された画像及びソーシャルネットワーキングサービスから取得した画像のうち少なくとも一方と、前記静止画像と、を含むレイアウト画像を生成することを特徴とする請求項3に記載の画像処理装置。
  5. 前記生成手段は、見開きページのレイアウト画像を生成することを特徴とする請求項3又は4に記載の画像処理装置。
  6. 前記生成手段により見開きページのレイアウト画像を生成する毎に、前記取得手段による取得、前記選択数設定手段による設定、前記分割手段による分割、前記選択手段による選択を実行することを特徴とする請求項3〜5のいずれか1項に記載の画像処理装置。
  7. 前記生成手段が1以上の見開きページのレイアウト画像を生成することにより、アルバムを作成することを特徴とする請求項3〜6のいずれか1項に記載の画像処理装置。
  8. 各撮影区間に対し、選択する画像の種類を設定する種類設定手段をさらに有し、
    前記選択手段は、前記種類設定手段で設定された画像の種類に基づいて、各撮影区間に対応する画像データ群から画像データを選択することを特徴とする請求項1〜7のいずれか1項に記載の画像処理装置。
  9. 前記種類設定手段は、各撮影区間に対し、動画から切り出された画像、ソーシャルネットワーキングサービスから取得した画像、及び静止画像のうちいずれか1つを設定することを特徴とする請求項8に記載の画像処理装置。
  10. 前記選択手段は、前記取得手段により取得された画像データ群から1枚目の画像に対応する画像データを選択し、2枚目以降の画像に対する画像データを選択する場合、前記複数の撮影区間のうち画像データが選択されていない撮影区間に対応する画像データ群から画像データを選択することを特徴とする請求項1〜9のいずれか1項に記載の画像処理装置。
  11. 前記分割手段は、前記選択手段が1つの画像データを選択した後に、前記撮影期間を分割することを特徴とする請求項1〜10のいずれか1項に記載の画像処理装置。
  12. 前記分割手段は、前記選択手段が1つの画像データを選択する毎に1つの撮影区間を2つの撮影区間に分割する処理を繰り返すことを特徴とする請求項1〜11のいずれか1項に記載の画像処理装置。
  13. 前記分割手段は、前記選択手段が選択した画像データの数が、前記選択数設定手段が設定した数に満たない場合、さらに撮影区間を分割することを特徴とする請求項1〜12のいずれか1項に記載の画像処理装置。
  14. 前記分割手段は、1つの撮影期間を等分に分割することを特徴とすることを特徴とする請求項1〜13のいずれか1項に記載の画像処理装置。
  15. 前記分割手段は、前記分割手段により分割して得られた撮影区間に対応する画像データがない場合、さらに撮影区間を分割することを特徴とする請求項1〜14のいずれか1項に記載の画像処理装置。
  16. 前記選択手段が選択する画像データに基づく画像の評価基準を設定する第2設定手段をさらに備え、
    前記第2設定手段は、前記選択手段が画像データを選択する毎に評価基準を設定することを特徴とする請求項1〜15のいずれか1項に記載の画像処理装置。
  17. 前記選択手段が選択された第1画像データと、前記選択手段により前記第1画像データよりも前に選択した第2画像データとの類似判定をする判定手段をさらに有し、
    前記判定手段が類似すると判定した場合は、前記選択手段は前記第1画像データの選択を解除することを特徴とする請求項1〜16のいずれか1項に記載の画像処理装置。
  18. 前記判定手段は、前記第1画像データと前記第2画像データの撮影時間差に応じて判定基準を変更することを特徴とする請求項17に記載の画像処理装置。
  19. 複数の画像データを含む画像データ群を取得する取得工程と、
    選択する画像データの数を設定する設定工程と、
    前記取得工程において取得した画像データ群の各画像データの撮影日時を特定する特定工程と、
    前記特定工程において特定した撮影日時に基づき、前記取得工程において取得した画像データ群の撮影期間を複数の撮影区間に分割する分割工程と、
    前記取得した画像データ群から前記設定工程において設定された数の画像データを選択する選択工程と、
    を有し、
    前記選択工程では、前記設定工程において2以上の数が設定された場合、前記分割工程において分割して得られた各撮影区間に対応する各画像データ群からそれぞれ画像データを選択することを特徴とする画像処理方法。
  20. 請求項1〜18のいずれか1項に記載の画像処理装置の各手段としてコンピュータを機能させるためのプログラム。
JP2015254946A 2015-08-07 2015-12-25 画像処理装置、画像処理方法、及びプログラム Active JP6494503B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201610615457.2A CN106454064B (zh) 2015-08-07 2016-07-29 图像处理装置以及图像处理方法
US15/227,600 US10403014B2 (en) 2015-08-07 2016-08-03 Image processing apparatus and image processing method
EP16182945.2A EP3131035A1 (en) 2015-08-07 2016-08-05 Image processing apparatus, image processing method, and program
EP22153233.6A EP4024347A3 (en) 2015-08-07 2016-08-05 Image processing apparatus, image processing method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015157651 2015-08-07
JP2015157651 2015-08-07

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019040732A Division JP6711937B2 (ja) 2015-08-07 2019-03-06 画像処理装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2017038343A true JP2017038343A (ja) 2017-02-16
JP6494503B2 JP6494503B2 (ja) 2019-04-03

Family

ID=58048474

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2015254946A Active JP6494503B2 (ja) 2015-08-07 2015-12-25 画像処理装置、画像処理方法、及びプログラム
JP2019040732A Active JP6711937B2 (ja) 2015-08-07 2019-03-06 画像処理装置、画像処理方法、及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2019040732A Active JP6711937B2 (ja) 2015-08-07 2019-03-06 画像処理装置、画像処理方法、及びプログラム

Country Status (3)

Country Link
US (1) US10403014B2 (ja)
JP (2) JP6494503B2 (ja)
CN (1) CN106454064B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11089170B2 (en) 2019-06-07 2021-08-10 Canon Kabushiki Kaisha Control method
US11218603B2 (en) 2019-06-07 2022-01-04 Canon Kabushiki Kaisha Control method includes acquiring first and second layout data generated by an album creation application in a terminal device and uploaded to a server
US11393145B2 (en) 2019-06-07 2022-07-19 Canon Kabushiki Kaisha Control method in which, when an updated album creation parameter satisfies a predetermined condition, the updated album creation parameter becomes downloadable to a terminal device of a first user
US11488337B2 (en) 2019-06-07 2022-11-01 Canon Kabushiki Kaisha Control method and control apparatus that generate layout data based on an album creation parameter depending on a result of a verification of the album creation parameter

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
US10891526B2 (en) * 2017-12-22 2021-01-12 Google Llc Functional image archiving
JP7250567B2 (ja) * 2019-02-28 2023-04-03 キヤノン株式会社 装置、方法、及びプログラム
JP7341677B2 (ja) * 2019-02-28 2023-09-11 キヤノン株式会社 装置、方法、及びプログラム
JP7541816B2 (ja) * 2019-08-08 2024-08-29 キヤノン株式会社 画像処理装置、制御方法及びプログラム
CN110533463A (zh) * 2019-08-16 2019-12-03 深圳供电局有限公司 一种宣传标语屏的后台管理系统及后台管理方法
CN111291800A (zh) * 2020-01-21 2020-06-16 青梧桐有限责任公司 房屋装修类型分析方法、系统、电子设备及可读存储介质
CN116150421B (zh) * 2023-04-23 2023-07-18 深圳竹云科技股份有限公司 图像的展示方法、装置、计算机设备和存储介质

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09305784A (ja) * 1996-03-15 1997-11-28 Fujitsu Ltd 電子アルバム編集装置
JP2005327249A (ja) * 2004-04-13 2005-11-24 Fuji Photo Film Co Ltd 画像記録装置および方法並びにプログラム
JP2006293986A (ja) * 2005-03-15 2006-10-26 Fuji Photo Film Co Ltd アルバム作成装置、アルバム作成方法、及びプログラム
JP2007272428A (ja) * 2006-03-30 2007-10-18 Nec Personal Products Co Ltd 電子アルバム自動作成装置
JP2011128938A (ja) * 2009-12-18 2011-06-30 Nikon Corp 画像表示装置、および画像表示プログラム
JP2011186715A (ja) * 2010-03-08 2011-09-22 Nk Works Kk 写真画像評価方法、及び写真画像評価装置
JP2013033453A (ja) * 2011-06-28 2013-02-14 Fujifilm Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2014075778A (ja) * 2012-09-14 2014-04-24 Fujifilm Corp 合成画像作成システム、画像処理装置および画像処理方法
JP2014110006A (ja) * 2012-12-04 2014-06-12 Olympus Corp サーバシステム、端末装置及びプログラム
US20140223318A1 (en) * 2013-02-05 2014-08-07 Drew Pefferle System and method for aggregating online images and managing image streams
JP2014192795A (ja) * 2013-03-28 2014-10-06 Fujifilm Corp 電子アルバム不足画像検索装置およびその動作制御方法
JP2015114920A (ja) * 2013-12-13 2015-06-22 富士フイルム株式会社 画像評価装置,画像評価方法,画像評価プログラム,およびそのプログラムを格納した記録媒体

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004246868A (ja) * 2003-01-22 2004-09-02 Canon Inc 画像抽出方法及び該方法をコンピュータに実行させるプログラム
US8335384B2 (en) * 2007-09-27 2012-12-18 JVC Kenwood Corporation Apparatus for and method of processing image information to group image data pieces based on shooting intervals
JP5744627B2 (ja) * 2011-06-01 2015-07-08 キヤノン株式会社 文書作成装置、文書作成装置の制御方法及びプログラム
ITVI20120104A1 (it) * 2012-05-03 2013-11-04 St Microelectronics Srl Metodo e apparato per generare in tempo reale uno storyboard visuale
JP5802255B2 (ja) * 2013-03-13 2015-10-28 富士フイルム株式会社 レイアウト編集装置、レイアウト編集方法およびプログラム

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09305784A (ja) * 1996-03-15 1997-11-28 Fujitsu Ltd 電子アルバム編集装置
JP2005327249A (ja) * 2004-04-13 2005-11-24 Fuji Photo Film Co Ltd 画像記録装置および方法並びにプログラム
JP2006293986A (ja) * 2005-03-15 2006-10-26 Fuji Photo Film Co Ltd アルバム作成装置、アルバム作成方法、及びプログラム
JP2007272428A (ja) * 2006-03-30 2007-10-18 Nec Personal Products Co Ltd 電子アルバム自動作成装置
JP2011128938A (ja) * 2009-12-18 2011-06-30 Nikon Corp 画像表示装置、および画像表示プログラム
JP2011186715A (ja) * 2010-03-08 2011-09-22 Nk Works Kk 写真画像評価方法、及び写真画像評価装置
JP2013033453A (ja) * 2011-06-28 2013-02-14 Fujifilm Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2014075778A (ja) * 2012-09-14 2014-04-24 Fujifilm Corp 合成画像作成システム、画像処理装置および画像処理方法
JP2014110006A (ja) * 2012-12-04 2014-06-12 Olympus Corp サーバシステム、端末装置及びプログラム
US20140223318A1 (en) * 2013-02-05 2014-08-07 Drew Pefferle System and method for aggregating online images and managing image streams
JP2014192795A (ja) * 2013-03-28 2014-10-06 Fujifilm Corp 電子アルバム不足画像検索装置およびその動作制御方法
JP2015114920A (ja) * 2013-12-13 2015-06-22 富士フイルム株式会社 画像評価装置,画像評価方法,画像評価プログラム,およびそのプログラムを格納した記録媒体

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11089170B2 (en) 2019-06-07 2021-08-10 Canon Kabushiki Kaisha Control method
US11218603B2 (en) 2019-06-07 2022-01-04 Canon Kabushiki Kaisha Control method includes acquiring first and second layout data generated by an album creation application in a terminal device and uploaded to a server
US11393145B2 (en) 2019-06-07 2022-07-19 Canon Kabushiki Kaisha Control method in which, when an updated album creation parameter satisfies a predetermined condition, the updated album creation parameter becomes downloadable to a terminal device of a first user
US11488337B2 (en) 2019-06-07 2022-11-01 Canon Kabushiki Kaisha Control method and control apparatus that generate layout data based on an album creation parameter depending on a result of a verification of the album creation parameter

Also Published As

Publication number Publication date
US20170039748A1 (en) 2017-02-09
JP6494503B2 (ja) 2019-04-03
US10403014B2 (en) 2019-09-03
CN106454064A (zh) 2017-02-22
CN106454064B (zh) 2019-12-27
JP2019139780A (ja) 2019-08-22
JP6711937B2 (ja) 2020-06-17

Similar Documents

Publication Publication Date Title
JP6711937B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US10649633B2 (en) Image processing method, image processing apparatus, and non-transitory computer-readable storage medium
US10742823B2 (en) Image processing apparatus and image processing method
JP6525862B2 (ja) 画像処理装置、画像処理方法およびプログラム
US10796405B2 (en) Image processing apparatus and method, and non-transitory computer-readable storage medium storing program
JP6494504B2 (ja) 情報処理装置、制御方法およびプログラム
JP7286392B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP7350495B2 (ja) 装置、方法、及びプログラム
JP6723937B2 (ja) プログラム、画像処理装置、および画像処理方法
US10402654B2 (en) Image processing method for selecting image to be output
JP6862164B2 (ja) プログラム、画像処理装置、および画像処理方法
JP7286393B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6532398B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2018097482A (ja) 画像処理装置、制御方法、及びプログラム
JP6606374B2 (ja) 画像処理装置および方法およびプログラム
JP7027101B2 (ja) 情報処理装置、制御方法、及びプログラム
EP3131035A1 (en) Image processing apparatus, image processing method, and program
JP6700806B2 (ja) プログラム、情報処理装置および制御方法
JP7350496B2 (ja) 装置、方法、及びプログラム
JP6700686B2 (ja) 画像処理装置およびアルバム作成方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190305

R151 Written notification of patent or utility model registration

Ref document number: 6494503

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151