JP4929215B2 - 画像処理装置及び画像処理装置の制御方法 - Google Patents

画像処理装置及び画像処理装置の制御方法 Download PDF

Info

Publication number
JP4929215B2
JP4929215B2 JP2008084101A JP2008084101A JP4929215B2 JP 4929215 B2 JP4929215 B2 JP 4929215B2 JP 2008084101 A JP2008084101 A JP 2008084101A JP 2008084101 A JP2008084101 A JP 2008084101A JP 4929215 B2 JP4929215 B2 JP 4929215B2
Authority
JP
Japan
Prior art keywords
image
frame
condition
processing apparatus
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008084101A
Other languages
English (en)
Other versions
JP2009239691A (ja
JP2009239691A5 (ja
Inventor
圭一 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008084101A priority Critical patent/JP4929215B2/ja
Priority to AU2009200887A priority patent/AU2009200887B2/en
Priority to EP09003635.1A priority patent/EP2105930B1/en
Priority to US12/412,134 priority patent/US8502887B2/en
Priority to CN2009101291639A priority patent/CN101546588B/zh
Publication of JP2009239691A publication Critical patent/JP2009239691A/ja
Publication of JP2009239691A5 publication Critical patent/JP2009239691A5/ja
Application granted granted Critical
Publication of JP4929215B2 publication Critical patent/JP4929215B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/34Indicating arrangements 

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は複数の画像を表示する画像処理装置及び画像処理装置の制御方法に関するものである。
近年、デジタルカメラの普及により専用端末やPCなどを利用して電子的なアルバムを作成し、アルバムの画面表示や印刷を行うシステムが普及してきている。このシステムは、ユーザがアルバム化したい画像を選択し、アルバムのテンプレート上に画像を配置することで電子的なアルバムを作成し、これを表示したり印刷したりするものである。
しかし、デジタルカメラでは大量に画像を撮影してしまう傾向にあり、大量の画像の中からユーザが画像を選択し、見栄えの良いレイアウトを考えながら配置していくのは大変な手間が掛かる作業である。
このため、ユーザの手間を軽減するために、特許文献1では画像を配置する配置枠に付加された属性情報と一致する属性情報を持った画像のみを選択対象として画面に表示するというものが提案されている。これにより、画像の配置枠に合った画像の候補が絞り込まれて表示されるため、ユーザは画像選択の手間が軽減されるというものである。
また、特許文献2ではページ内で主画像となるべき画像を自動的に選択し、次に主画像との関連性により従画像を自動的に抽出し、同一ページ内にレイアウトするというものが提案されている。これにより、画像選択と画像配置という作業の自動化が可能となる。
特開2006−277065号公報 特開2006−293986号公報
しかし、特許文献1に提案された方法では、テンプレートに設定された属性情報と一致する画像を選択するため、テンプレートデザイナーの意図通りの画像が抽出されないという問題がある。例えば、アップの画像を選択したい場合、アップというのを仮に焦点距離が100mmとして設定しても、100mmと一致する画像がある可能性は低い。また、望遠レンズを多用している場合は、100mmではアップの画像とは言えず、意図した画像が選択されないことになる。
また、特許文献2に提案された方法では、主画像に対して同じページ内に配置される従画像は同じ観点で抽出された画像が配置されるため、似た画像ばかりになってしまう可能性が高い。このため、ページ内にストーリー性を持たせたり、一部に全然観点の違うアクセント画像を入れたりといった調整を行うことができないという問題がある。
よって、本発明は上記を鑑みてなされたものであり、意図した通りの画像を自動配置することを目的とする。
上記の目的を達成するための本発明の一態様による画像処理装置は、以下の構成を備える。即ち、枠群に配置する画像群の相対関係を示す条件と関連付けられた枠群の情報を取得する取得手段と、前記取得手段によって取得された枠群の情報に関連付けられた条件を満たす画像群を複数の画像から抽出する抽出手段と、前記抽出手段によって抽出された画像群を、前記取得手段で取得された情報に対応する枠群に配置する配置手段と、ユーザの指示に応じて、前記配置手段により配置された画像の1つを他の画像に変更する変更手段と、前記変更手段により前記配置手段により配置された画像の1つが前記他の画像に変更されると、前記他の画像が配置された枠以外の枠に配置されている画像も変更するか否かをユーザに問い合わせる問合手段と、前記問合手段による問い合わせに対するユーザ指示に従って、前記他の画像を基準とし、前記取得手段により取得された枠群の情報に関連付けられた条件に基づいて、前記他の画像が配置された枠以外の枠に配置する画像を複数の画像から再抽出する再抽出手段と、前記再抽出手段により再抽出された画像を、前記他の画像が配置された枠以外の枠に再配置する再配置手段とを備えることを特徴とする。
また、上記目的を達成するために、本発明の一態様による画像処理装置の制御方法は、枠群に配置する画像群の相対関係を示す条件と関連付けられた枠群の情報を取得手段が取得する取得工程と、前記取得手段によって取得された枠群の情報に関連付けられた条件を満たす画像群を複数の画像から抽出手段が抽出する抽出工程と、前記抽出手段によって抽出された画像群を、前記取得手段で取得された情報に対応する枠群に配置手段が配置する配置工程と、ユーザの指示に応じて、前記配置手段により配置された画像の1つを他の画像に変更手段が変更する変更工程と、前記変更手段により前記配置工程において配置された画像の1つが前記他の画像に変更されると、前記他の画像が配置された枠以外の枠に配置されている画像も変更するか否かを問合手段がユーザに問い合わせる問合工程と、前記問合手段による問い合わせに対するユーザ指示に従って、前記他の画像を基準とし、前記取得工程により取得された枠群の情報に関連付けられた条件に基づいて、前記他の画像が配置された枠以外の枠に配置する画像を複数の画像から再抽出手段が再抽出する再抽出工程と、 前記再抽出手段により再抽出された画像を、前記他の画像が配置された枠以外の枠に再配置する再配置工程と
を備えることを特徴とする。
本発明によれば、意図した通りの画像を自動選択し、意図した通りに画像の自動配置を可能とするので、ユーザの操作を軽減できる。また、相対的関係を条件として設定できるため、固定値の設定を必要とせず、条件設定が容易となる。また、ユーザの希望により、1つの画像を変更しただけで他の画像も自動的に変更することも、自動配置トされた画像の1つだけど変更することもでき、ユーザの意図に合った画像配置にすることができる。
以下、図面を参照して本発明の好適な実施形態を詳細に説明する。なお、本発明は、この実施形態により何ら限定されるものではない。
(第1の実施形態)
本実施形態においては、特定の画像を配置する配置枠群に関連付けて一方の画像の値と他方の画像の値との相対的関係の条件が設定されていた場合に、その条件に基づいて画像が自動的に配置されるようにするための実施形態を、図面を参照しながら説明する。
図1は本発明における画像処理装置のハードウェア構成の一例を示す図である。
102はCPUであり、各種処理のための演算や論理判断などを行い、バス101に接続された各構成要素を制御する。本装置には、プログラムメモリとデータメモリを含むメモリが搭載されている。プログラムメモリには、フローチャートにより後述する各種処理手順を含むCPUによる制御のためのプログラムを格納する。該メモリはROM103であっても良いし外部記憶装置などからプログラムがロードされるRAM104であっても良い。
105は本発明に係るデータやプログラムを記憶しておくためのハードディスクなどの記憶装置である。また、画像群や複数の枠が設定されたテンプレートを保持しておく為にも利用する。ただし、画像群やテンプレートを保持しておくものとしては、外部接続やネットワークに接続された外部記憶装置106を用いても良い。107はユーザからの指示を入力するための入力装置である。ユーザは入力装置107により、ユーザからの指示を得るものとする。
108は出力のための回路を含む出力装置であり、CRTや液晶表示器、テレビなどの表示装置や、プリンターや複合機などの印刷装置のことである。表示装置上には画像やテンプレートなどの電子アルバムの作成に必要な情報が表示されるものとする。作成された電子アルバムは、表示装置に表示しても良いし、印刷装置にてプリントアウトしても良い。
図2は本発明における画像処理装置のソフトウェア構成の一例を示すブロック図である。
図において、200は画像処理装置全体である。201は画像情報管理部であり、画像群の情報を管理し、他のモジュールの要求に応じて情報を提供する。ここで、画像群とは、例えば内部記憶装置に蓄積された画像群や外部記憶装置に蓄積された画像群のことを指す。また、外部記憶装置は、例えば直接接続されたストレージ機器やネットワーク接続されたストレージ機器、デジタルカメラのような画像データを保持できる機器のことを指す。さらに画像群は、Web上に公開された画像群であっても良い。
画像情報管理部201はこれらの機器に格納された画像自身や、画像に付加された属性情報、画像認識を行った際の情報を管理するものである。202はテンプレート管理部であり、画像をどのように配置するかを示した配置枠が定義されたテンプレートを管理し、他のモジュールの要求に応じて情報を提供する。テンプレートには、定義された配置枠群に関連付けて、配置される画像群の相対的関係が条件として保持されている。画像群の相対的関係とは、それぞれの画像が有する属性値の相対関係を表す情報である。具体例は後述するが、例えば画像Aと画像Bの焦点距離の関係を表す情報等である。
203は画像抽出部であり、テンプレート管理部202の情報を基に、必要な画像群を画像情報管理部201を介して抽出する。204は画像配置部であり、テンプレート管理部202からテンプレート情報を取得し、テンプレート情報に定義された配置枠群に対して、画像抽出部203が抽出した画像群を配置する。205は画面表示部であり、画像配置部204で生成された画像がテンプレート上に配置された情報や、入力処理部206からのユーザの操作内容を、出力装置108の描画RAM上に描画データとして書き込みを行う。206は入力処理部であり、ユーザからの操作指示を受付け、操作内容を画面表示部205に依頼して画面表示を行う。また、入力装置107からのユーザの操作を解析し、選択操作、データの入力などを処理し、ユーザからの指示内容を画像配置部204に伝え、動作制御を行う。
図3は本発明におけるテンプレートの設定内容の一例を表す図である。
300は画像を配置するためのテンプレートであり、ここではアルバムの1ページのテンプレートを想定した一例を示している。テンプレートは複数ページを一括して管理しているものであっても良い。ここでの例では便宜上、1ページのテンプレートを例に挙げて説明する。301、302、303はテンプレートに定義された画像を配置する配置枠である。ここに画像が配置されることでアルバムの1ページが構成される。配置枠の位置や大きさは固定でなくても良く、例えば画像の大きさやアスペクト比に合わせて大きさを変えたり、大きさが変わったことにより位置をずらしたりしても良いものとする。
304、305、306は、配置枠群に関連付けられた相対的関係を表す条件である。ここでの例では2つの配置枠間に関連付けて条件を設定している。304の条件ではAの配置枠である301と、Bの配置枠である302の間に、「AはBより焦点距離の値が大きい」つまり、AはBの画像よりアップで撮影されたという相対的関係を示す条件が設定されている。これは反対の「BはAより焦点距離の値が小さい」という条件も同時に意味している。ここで利用している焦点距離は画像に付加された属性情報の中に保持されており、画像情報管理部201を利用して取得できる。
305の条件は304と同様にAとCの配置枠の間に焦点距離の相対的関係が条件として設定されている。306の条件では、Bの配置枠である302と、Cの配置枠である303の間に、「BはCより撮影日時の値が小さい」という相対的関係を示す条件が設定されている。これについても反対の「CはBより撮影日時の値が大きい」という条件も同時に意味している。ここで利用している撮影日時も、画像に付加された属性情報から取得できる。
この他に相対的関係を示す条件の例として、以下にいくつか記述する。属性情報を利用できる例として、AはBより絞りの値が大きい。AはBより露出の値が大きい。AはBより画像解像度の値が大きい。AはBより被写体までの距離が小さいなどが考えられる。このように、属性情報内で値として扱われているものであれば全て相対的関係を示す条件として設定可能である。
また、属性情報として画像認識の結果を利用してもよい。この場合、予め画像認識を行った結果を属性情報として画像に付与しておいても良いし、画像を配置する際に画像認識を行ってもよい。条件の例として、AはBより写っている人数が多い。AはBより笑顔度を示す値が大きい。AはBより明るさの値が大きい。AはBよりある色の色合いを示す値が大きい。AはBよりブレの値が小さいなどが考えられる。このように、画像認識においても値として取れるものであれば全て相対的関係を示す条件として設定可能である。また、値の大小の条件に範囲を持たせても良く、値がいくつ以上大きいというような設定をしても良い。
図4は、本発明における画像配置の一例を示した図である。
この図の例では、図3のテンプレートを基に画像抽出して配置した場合の例を示している。401、402、403はそれぞれ図3における301、302、303の配置枠に画像が配置された状態を示している。図3の301と302、303のそれぞれの配置枠間には301に配置される画像の方が焦点距離の値が大きいという条件設定がされているため、401のように402、403に比べてアップの画像が配置されている。このように、メインの配置枠には他の配置枠の画像よりもアップで目立つ画像を配置することができ、メリハリを付けることができる。
この他にも、例えば絞りの値を利用することでポートレート撮影された画像をメインに配置したり、被写体までの距離を利用してクローズアップ撮影された画像をメインに配置してもメリハリのある配置が可能である。さらに、メインの配置枠には笑顔を示す値が大きいものや、画像解像度の値が大きいものなどが配置されるように設定するのも効果的である。
また、これら複数の条件を同じ配置枠群に関連付けて設定しておくことも可能である。こうすることで、意図通りの画像が配置される精度を高めることもできる。次に、302と303の配置枠間には302に配置される画像の方が撮影日時の値が小さいという条件設定がされているため、402のように403よりも撮影時間が早い画像が配置される。このように、時間的な順番を守るように配置されることで、時間的な前後が入れ替わったり、時間軸がバラバラに画像が並ぶといった不自然な配置を回避することができる。
図5は本発明におけるストーリー性のある画像配置の一例を表す図である。
テンプレート300に定義された配置枠群に関連付けて、図5の例では501から503の相対的関係を条件として設定している。条件の詳細は504に記述している。ここでの例ではより前面にあり、より大きい配置枠ほど、被写体との距離の値が小さく、撮影日時の値が大きくなる画像が配置されるように条件を設定している。この例ように、同一の配置枠群に対して複数の条件を関連付けることも可能である。このような設定を行うことで、図5の例のように、徐々に被写体が近付いてきた画像を連続写真のように配置することができる。このように、配置枠の順番を考慮して相対的関係の条件を設定すれば、配置枠の順を追ったストーリー性を持たせることも可能である。
図6は本発明における画像配置処理の一例を示すフローチャートである。図6のフローの各ステップはCPU102の制御に基づいて実行される。
図において、S601〜S604は各ステップを表す。S601では、図2におけるテンプレート管理部202よりテンプレート情報を取得する処理を行っている。ここで、テンプレートに定義された配置枠群の中から、相対的関係が条件として設定された配置枠群のリストを取得する。S602はループ処理の判定部であり、S601にて取得した配置枠群のリストにまだ処理すべき配置枠群が存在するかどうかの判定を行っている。
ここで、処理すべき配置枠群が存在すればS603に進み、存在しなければ処理を終了する。S603以降の処理は、配置枠群のリスト中の一つについて処理を行う。S603は、図2における画像抽出部203の処理であり、配置枠群に関連付けられた相対的関係を示す条件を満たすような画像を図2における画像情報管理部201より抽出する。画像を抽出する方法の一例としては、どれかひとつの画像を基準とし、その画像に対して設定された相対的関係の条件を満たす他の画像を抽出するという方法が考えられる。仮に条件を満たす画像が存在しなかった場合には、基準とした画像を別の画像に置き換えて再度条件を満たす画像を抽出するという方法が考えられる。
S604は、図2における画像配置部204の処理であり、S603によって抽出された画像を、配置枠群に関連付けられた相対的関係を示す条件に従ってそれぞれの配置枠に画像を配置する。S604の処理を終えると、配置枠群のリストに格納されている次の配置枠群に処理を移し、S602の処理から繰り返す。
また、図6の例では相対的関係の条件を満たす画像を全て自動的に配置しているが、ユーザが手動で配置した画像に基づいて残りの配置枠に対して自動的に相対的関係の条件を満たす画像を配置するとしても良い。また、自動的に配置するタイミングとして、テンプレートを選択した時点でも良いし、枠を選択した時点や、ページを選択した時点で配置しても良い。また、S601で相対的関係が条件として設定された配置枠群をリストとして取得したが、配置枠群を先頭から順に処理していくようにして相対的関係が設定された条件を取得しても構わない。
以上のように、本実施形態の画像処理装置においては、一方の画像の値より他方の画像の値の方が大きい、又は小さいというような大小関係の相対的関係に基づいて画像が配置されることで、メインの画像を目立たせるといったメリハリのある画像配置が可能となる。また、配置する順番を考慮して相対的関係の条件を設定しておけば、ストーリー性を持たせた画像の配置も可能となる。
(第2の実施形態)
本実施形態においては、ユーザが手動で配置した1以上の画像に基づいて残りの配置枠に対して自動的に相対的関係の条件を満たす画像を配置するとした場合の一例を説明する。この時に、条件を満たす画像は存在しないが、反対の条件を満たす画像は存在している場合には、画像を入れ替えて配置枠に配置するという実施形態を、図面を参照しながら説明する。第2の実施形態における画像処理装置装置の構成は、第1の実施形態で説明した図1及び図2に示す構成と同様であり、説明は省略する。
図7は本発明における画像入れ替えの一例を表す図である。
図7の(a)では、ユーザの指示により図3のテンプレートの配置枠301に対して701の画像を配置しようとしている。この際に、302の配置枠に対して条件304に基づいて画像701よりも焦点距離が小さい画像を配置しようとしたところ、焦点距離が画像701よりも小さい画像が存在しなかった場合を示している。しかし、条件304の反対の条件が成り立つ、画像701よりも焦点距離が大きい画像702が存在したため、この2つの画像を入れ替えて、図7の(b)に示すように画像702を配置枠301に、画像701を配置枠302に配置している。こうすることで、ユーザに対してより好適と言える画像の配置を提供できる。また、反対の条件が成り立つ画像が複数ある場合には、お勧めの画像配置候補として順次配置する画像を入れ替えてユーザに提示できるようにしても良い。
図8は本発明における画像入れ替え確認ダイアログの一例を表す図である。
801は図7にて説明したように、より好適と言えるお勧めの画像の配置例があった際に表示するダイアログである。802は「お勧めの画像配置に変える」ことを意味するボタンである。ボタン802が押下された場合には、図7の(b)のような画像配置で確定される。803は「お勧めの画像配置にしない」ことを意味するボタンである。ボタン803が押下された場合には、図7の(b)のような画像配置にせず、ユーザの指定通りに図7の(a)において画像701を配置枠301に配置する。このようなダイアログにてユーザに画像の入れ替えを行うかどうかを選択させることで、勝手に画像を入れ替えられたくない場合にも対応できるようになる。
以上のように、本実施形態の画像処理装置においては、相対的関係の条件を満たす画像が存在しなくとも、反対の条件を満たす画像が存在すればそれをユーザに提示し、より良い画像配置を提供することが可能となる。また、条件に反してでも置きたい画像がある場合についてはそれを選択できるようにすることで柔軟に対応できるようになる。
(第3の実施形態)
本実施形態においては、相対的関係を表す条件として、一方の画像の値と他方の画像の値との差が一定の基準を満たしているかどうかという条件が設定されていた場合の実施形態を、図面を参照しながら説明する。第3の実施形態における画像処理装置装置の構成は、第1の実施形態で説明した図1及び図2に示す構成と同様であり、説明は省略する。
図9は本発明におけるテンプレートの一例を表す概念図である。
901、902、903はテンプレートに定義された配置枠である。904、905、906は配置枠群に関連付けて設定された相対的関係の条件である。ここでは、図3の例にある304、305、306の条件に新たな条件を追加したものを例に挙げて説明する。条件904においては、条件304に対して「AとBは撮影場所の値が近い」という条件と、「AとBは撮影日時の値が近い」という相対的関係を条件に追加している。ここでいう撮影場所の値が近いというのは、例えば画像の属性情報にある緯度・経度の情報を利用して、画像間の緯度・経度の値の差が規定の範囲内に収まっているかという判定で実現できる。撮影日時が近いというのも、画像間の撮影日時の差が規定よりも小さいかどうかを判定すれば良い。
このような条件を追加することで、AとBの配置枠では近い場所、近い時間の画像が配置され、同じイベント内で撮影されたと思われる画像が並ぶことになる。このように、全然関係のない画像が同じページに配置されることを防ぎ、同じページ内には同じイベント内の画像が並ぶことでまとまりのあるページ構成が実現できる。
また、条件905では図3における条件305に対して前述の撮影場所と撮影日時の相対的関係の他に、「AとCは撮影方向の値が遠い」という相対的関係を表す条件を追加している。これは、例えば画像間の撮影した方向の値の差が規定よりも大きいかどうかで判定すれば良い。撮影方向の値が遠いという条件を入れることで、AとCでは別のアングルで撮影した画像が配置されることになる。このため、AとCの配置枠の間で似たような画像が並ぶことがなくなる。こうすることでさらにメリハリのある画像配置が可能となる。
この他にも例えば、画像の色合いの値を比べてみたり、画像の特徴量の値を比べてみたりすることでも見た目に違う画像を配置することが可能である。値の差を規定する条件としては、前述のような差が規定よりも大きい、小さいという設定だけではなく、他にもいくつか考えられる。例えば、値の差がなく、同じ値であるという設定も考えられる。これにより、同じ場所とか同じ被写体といった設定も可能となる。
さらに、値の差の条件には範囲を持たせても良く、値の差がどこからどこまでの間に収まるという設定をしても良い。これにより、ある程度厳密に抽出される画像を絞り込むことができる。また、ここでは値の差が規定の範囲に収まる画像を配置する例を挙げたが、規定の範囲に収まる画像が存在しない場合も考えられる。その場合は、規定の範囲により近い画像を配置することとしても良い。
さらに、ここでの例では2つの配置枠間に関連付けて条件を設定しているが、複数の配置枠群に対して条件を設定しても良い。例えば「AとBとCの撮影場所が同じ。AとBとCの撮影方向の値が遠い」という設定を行えば、3つの配置枠に同じ場所から撮影した別アングルの画像を並べるといったことも可能となる。これにより、例えば同じ展望台から撮影した別アングルの画像を並べるといったような使い方ができる。
以上のように、本実施形態の画像処理装置においては、配置枠群に対して画像群の値の差が一定の基準を満たすように配置することで、同じイベントの画像を同じページに並べたり、同じイベント内でも他とは少し違った画像を並べたりすることが可能となる。このため、同一ページの配置枠においては関連のある画像を並べつつ、一部の配置枠にはアクセント画像を配置するというような使い方が可能となる。
(第4の実施形態)
本実施形態においては、相対的関係の条件を満たす画像が存在しなかった場合の対処法の実施形態を、図面を参照しながら説明する。条件を満たす画像が存在しなかった場合の対処方の例としては、条件を満たせなかった配置枠には画像を配置しないという方法が考えられる。その他には、条件を無視して画像を配置するという方法が考えられる。第4の実施形態における画像処理装置装置の構成は、第1の実施形態で説明した図1及び図2に示す構成と同様であり、説明は省略する。
まずは、条件を満たせなかった配置枠には画像を配置しないという方法についての例を説明する。
図10は本発明における条件を満たせなかった配置枠には画像を配置しない一例を表す図である。
図10(a)において、1001、1002、1003は図2における画像情報管理部201が管理している画像群であり、ここでは便宜上3枚としている。1007はAの配置枠とBの配置枠に関連付けて設定された相対的関係を表す条件であり、「AはBより焦点距離が大きい」、「AはBより撮影日時の値が大きい」という条件が設定されている。
この条件を満たす画像を先の画像群から抽出すると、焦点距離が大きい画像は1003の画像しかないため、Aの配置枠には画像1003しか当てはまらない。Bの配置枠には画像1001、画像1002ともに画像1003より焦点距離が小さく、撮影時刻が小さいため、どちらでも当てはまる。ここでの例では、図10の(b)に示すように、画像1001がBの配置枠に配置されたとする。
1008は、Aの配置枠とCの配置枠に関連付けて設定された相対的関係を表す条件であり、「AはCより焦点距離が大きい」、「AはCより撮影日時の値が小さい」という条件が設定されている。しかし、配置枠Aに配置された画像1003よりも焦点距離が小さく、撮影時刻が大きい画像は先の画像群の中に存在しないため、Cの配置枠には画像を配置することができない。この場合、図10の(b)に示すように、Cの配置枠には画像が配置されないようにする。この後、1枚画像が減ったために不自然な配置となるため、Bの配置枠を右にずらして中央に持ってくるなどの処理を行っても良い。その他に、空いたCの配置枠にはユーザに別途画像を配置してもらうという方法もある。
次に、条件を無視して画像を配置するという方法についての例を説明する。
図11は本発明における条件を満たせなかった配置枠には条件を無視して画像を配置する一例を表す図である。
ここでの例は図10の例とほとんど同じであるが、図10と違うのは図11の(b)に示すように、条件1008を満たしていない画像1002をCの配置枠に配置していることである。このように、条件を無視して画像を配置することで、配置枠の空きを作らないという方法もある。
図12は本発明における条件を満たせなかった際に表示するダイアログの一例を表す図である。
図12の(a)の1201は、図11にて説明したように条件を満たしていない画像を配置しても良いかをユーザに問い合わせる確認ダイアログである。1202は「条件を満たしていない画像を配置しても良い」ことを意味するボタンである。1203は「条件を満たしていない画像は配置しない」ことを意味するボタンである。このようなダイアログをユーザに提示することで、条件を満たさない画像を勝手に配置されたくないという要求にも対応できる。
図12の(b)の1204は、図10の説明にて条件を満たした画像が存在しなかった配置枠が空になっている状態にある場合に、その旨を伝える警告ダイアログである。このようなダイアログをユーザに提示することで、配置されていない配置枠があることを知らせ、抜けが生じるのを防ぐことができる。また、この後に画像が配置されていない配置枠を表示して、配置を促すのも良いと考える。また、画像が配置されていない配置枠が複数ある場合に、その配置枠を順次表示していけるようにしても良い。
以上のように、本実施形態の画像処理装置においては、相対的関係の条件を満たす画像が存在しない場合であっても、配置枠の数を調整したり、なるべく画像を配置するようにしたり、つじつまが合うように調整を行うことができる。また、ユーザにはダイアログを表示することで、ユーザの意図しない処理を行うのを防いだり、ユーザに対して注意を促すことができる。
(第5の実施形態)
本実施形態においては、相対的関係の条件が関連付けられた配置枠群のうち一部の配置枠に配置されている画像を変更する場合の実施形態を、図面を参照しながら説明する。第5の実施形態における画像処理装置装置の構成は、第1の実施形態で説明した図1及び図2に示す構成と同様であり、説明は省略する。
図13は本発明における一部の配置枠に配置されている画像を変更する一例を表す図である。
ここでは、図9にて説明したテンプレートを利用した場合を例に挙げて説明する。画像1301、1302、1303は、設定された条件に従って、それぞれ近い場所、時間で撮影された画像が配置されるようになっている。また、画像1301のように、大きい配置枠には他よりもアップの画像が入るように条件が設定されている。ここで、1301の画像は例えば友達の家に行った時の写真とする。そして、その後友達を一緒にピクニックに行ったとして、その時に撮影した画像1304があったとする。
図13の(a)は、ユーザの指示によりピクニックで撮影した画像1304を1301の画像と置き換えようとしているところを示している。この時、変更しようとしている画像1304を基準として、配置枠群に関連付けられた相対関係の条件に基づいて再度配置をし直すことも可能である。この場合の例が図13の(b)である。大きい配置枠に1304が配置され、1305、1306には近い場所、近い時間、すなわちピクニック中の画像が選択され、その中でも1304の画像よりもロングで撮影された画像が配置されている。このように、一部の配置枠の画像を変更したとしても、配置枠群に関連付けられた相対関係の条件を満たすような好適な画像配置を提示することができる。
図14は本発明における画像変更時の再配置確認ダイアログの一例を表す図である。
1401は一部の配置枠に配置された画像が変更された際に、変更された画像を基準に配置枠群に関連付けられた相対的関係の条件に従って他の配置枠も再配置し直すかを問い合わせる確認ダイアログである。1402は「再配置を行う」ことを意味するボタンである。1403は「再配置を行わない」ことを意味するボタンである。このような確認ダイアログによりユーザの意思を確認することで、変更を加えた配置枠の画像のみを変えたい場合にも対応できる。
以上のように、本実施形態の画像処理装置においては、一部の配置枠の画像を変更したとしても、相対関係の条件を崩さずに変更した画像に合わせて他の配置枠の画像も変更することができる。これにより、ページのテーマを変えようとした場合においても、1枚の画像を変更するだけで、他の配置枠の画像も相対的関係の条件に基づいて、同じテーマの画像に自動的に変更することが可能となる。また、単に1枚だけ画像を変更したい場合においても、確認ダイアログを表示することでユーザの意図しない他の画像の変更を防ぐことができる。
<他の実施形態>
以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
尚、本発明は、ソフトウェアのプログラムをシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによって前述した実施形態の機能が達成される場合を含む。この場合、供給されるプログラムは実施形態で図に示したフローチャートに対応したコンピュータプログラムである。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
コンピュータプログラムを供給するためのコンピュータ読み取り可能な記憶媒体としては以下が挙げられる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムをハードディスク等の記録媒体にダウンロードすることが挙げられる。この場合、ダウンロードされるプログラムは、圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布するという形態をとることもできる。この場合、所定の条件をクリアしたユーザに、インターネットを介してホームページから暗号を解く鍵情報をダウンロードさせ、その鍵情報を使用して暗号化されたプログラムを実行し、プログラムをコンピュータにインストールさせるようにもできる。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどとの協働で実施形態の機能が実現されてもよい。この場合、OSなどが、実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれて前述の実施形態の機能の一部或いは全てが実現されてもよい。この場合、機能拡張ボードや機能拡張ユニットにプログラムが書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行なう。
本発明における画像処理装置のハードウェア構成の一例を示す図である。 本発明における画像処理装置のソフトウェア構成の一例を示すブロック図である。 本発明におけるテンプレートの設定内容の一例を表す図である。 本発明における画像配置の一例を示した図である。 本発明におけるストーリー性のある画像配置の一例を表す図である。 本発明における画像配置処理の一例を示すフローチャートである。 本発明における画像入れ替えの一例を表す図である。 本発明における画像入れ替え確認ダイアログの一例を表す図である。 本発明におけるテンプレートの一例を表す図である。 本発明における条件を満たせなかった配置枠には画像を配置しない一例を表す図である。 本発明における条件を満たせなかった配置枠には条件を無視して画像を配置する一例を表す図である。 本発明における条件を満たせなかった際に表示するダイアログの一例を表す図である。 本発明における一部の配置枠に配置されている画像を変更する一例を表す図である。 本発明における画像変更時の再配置確認ダイアログの一例を表す図である。
符号の説明
101 バス
102 CPU
103 ROM
104 RAM
105 記憶装置
106 外部記憶装置
107 入力装置
108 出力装置

Claims (15)

  1. 枠群に配置する画像群の相対関係を示す条件と関連付けられた枠群の情報を取得する取得手段と、
    前記取得手段によって取得された枠群の情報に関連付けられた条件を満たす画像群を複数の画像から抽出する抽出手段と、
    前記抽出手段によって抽出された画像群を、前記取得手段で取得された情報に対応する枠群に配置する配置手段と、
    ユーザの指示に応じて、前記配置手段により配置された画像の1つを他の画像に変更する変更手段と、
    前記変更手段により前記配置手段により配置された画像の1つが前記他の画像に変更されると、前記他の画像が配置された枠以外の枠に配置されている画像も変更するか否かをユーザに問い合わせる問合手段と、
    前記問合手段による問い合わせに対するユーザ指示に従って、前記他の画像を基準とし、前記取得手段により取得された枠群の情報に関連付けられた条件に基づいて、前記他の画像が配置された枠以外の枠に配置する画像を複数の画像から再抽出する再抽出手段と、
    前記再抽出手段により再抽出された画像を、前記他の画像が配置された枠以外の枠に再配置する再配置手段
    を備えることを特徴とする画像処理装置。
  2. 前記条件は、同一の枠群に対して複数の条件が設定されたものであることを特徴とする請求項1に記載の画像処理装置。
  3. 前記条件は、前記画像群の有する属性情報の値の相対関係を示すものであることを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記属性情報とは、画像認識を行った結果の値を含むことを特徴とする請求項3に記載の画像処理装置。
  5. 前記属性情報の値の相対関係とは、大小関係であることを特徴とする請求項3に記載の画像処理装置。
  6. 前記属性情報の値の相対関係とは、一方の値と他方の値との差が一定の基準を満たす関係であることを特徴とする請求項3に記載の画像処理装置。
  7. 前記抽出手段は、前記条件を満たす画像が抽出できなかった場合に、前記条件に近い画像を抽出することを特徴とする請求項1乃至6何れか1項に記載の画像処理装置。
  8. 前記抽出手段は、前記条件を満たす画像が抽出できなかった場合に、前記条件を満たさない画像を抽出することを特徴とする請求項1乃至6何れか1項に記載の画像処理装置。
  9. 前記抽出手段で、前記条件を満たす画像が抽出できなかった場合に、前記配置手段は、画像を配置しないことを特徴とする請求項1に記載の画像処理装置。
  10. 前記抽出手段で、前記条件を満たす画像が抽出できなかった場合に、警告を提示する提示手段を更に有することを特徴とする請求項1乃至6何れか1項に記載の画像処理装置。
  11. ユーザが指定した画像をユーザが指定した枠に配置する指示手段を更に有し、前記取得手段は、前記枠群の内、少なくとも1以上の枠が、該指示手段によって指定された枠群の情報を取得することを特徴とする請求項1乃至10何れか1項に記載の画像処理装置。
  12. 前記抽出手段は、前記条件を満たす画像が抽出できなかった場合に、該条件と反対の条件を満たす画像を抽出することを特徴とする請求項1乃至6何れか1項に記載の画像処理装置。
  13. 枠群に配置する画像群の相対関係を示す条件と関連付けられた枠群の情報を取得手段が取得する取得工程と、
    前記取得手段によって取得された枠群の情報に関連付けられた条件を満たす画像群を複数の画像から抽出手段が抽出する抽出工程と、
    前記抽出手段によって抽出された画像群を、前記取得手段で取得された情報に対応する枠群に配置手段が配置する配置工程と、
    ユーザの指示に応じて、前記配置手段により配置された画像の1つを他の画像に変更手段が変更する変更工程と、
    前記変更手段により前記配置工程において配置された画像の1つが前記他の画像に変更されると、前記他の画像が配置された枠以外の枠に配置されている画像も変更するか否かを問合手段がユーザに問い合わせる問合工程と、
    前記問合手段による問い合わせに対するユーザ指示に従って、前記他の画像を基準とし、前記取得工程により取得された枠群の情報に関連付けられた条件に基づいて、前記他の画像が配置された枠以外の枠に配置する画像を複数の画像から再抽出手段が再抽出する再抽出工程と、
    前記再抽出手段により再抽出された画像を、前記他の画像が配置された枠以外の枠に再配置する再配置工程と
    を有することを特徴とする画像処理装置の制御方法。
  14. 請求項13に記載された画像処理装置の制御方法をコンピュータに実行させるプログラム。
  15. 請求項13に記載された画像処理装置の制御方法をコンピュータに実行させるプログラムを格納したコンピュータ読み取り可能な記憶媒体。
JP2008084101A 2008-03-27 2008-03-27 画像処理装置及び画像処理装置の制御方法 Active JP4929215B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2008084101A JP4929215B2 (ja) 2008-03-27 2008-03-27 画像処理装置及び画像処理装置の制御方法
AU2009200887A AU2009200887B2 (en) 2008-03-27 2009-03-04 Image processing apparatus and method
EP09003635.1A EP2105930B1 (en) 2008-03-27 2009-03-12 Selection and positioning of images within a template based on relative comparison of image attributes
US12/412,134 US8502887B2 (en) 2008-03-27 2009-03-26 Image processing apparatus and method
CN2009101291639A CN101546588B (zh) 2008-03-27 2009-03-27 图像处理装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008084101A JP4929215B2 (ja) 2008-03-27 2008-03-27 画像処理装置及び画像処理装置の制御方法

Publications (3)

Publication Number Publication Date
JP2009239691A JP2009239691A (ja) 2009-10-15
JP2009239691A5 JP2009239691A5 (ja) 2011-05-06
JP4929215B2 true JP4929215B2 (ja) 2012-05-09

Family

ID=40765638

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008084101A Active JP4929215B2 (ja) 2008-03-27 2008-03-27 画像処理装置及び画像処理装置の制御方法

Country Status (5)

Country Link
US (1) US8502887B2 (ja)
EP (1) EP2105930B1 (ja)
JP (1) JP4929215B2 (ja)
CN (1) CN101546588B (ja)
AU (1) AU2009200887B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5120390B2 (ja) * 2010-02-10 2013-01-16 ブラザー工業株式会社 情報処理装置及びスキャナ装置
JP2011186714A (ja) * 2010-03-08 2011-09-22 Nk Works Kk アルバム作成方法、及びアルバム作成装置
CN102881035B (zh) * 2012-09-12 2016-02-17 福建天晴数码有限公司 基于图像内容的电子影集的自动布局系统
JP5655112B2 (ja) * 2012-09-14 2015-01-14 富士フイルム株式会社 合成画像作成システム、画像処理装置および画像処理方法
US20150248408A1 (en) * 2012-10-19 2015-09-03 Christian Rossing Kraft Method and apparatus presenting filtered data in combination with a replacement data item
JP5763700B2 (ja) 2013-03-27 2015-08-12 富士フイルム株式会社 画像処理装置、画像処理方法およびプログラム
CN103488749B (zh) * 2013-09-24 2016-09-14 长沙裕邦软件开发有限公司 一种网络电子相册展示方法及系统
CN105205063A (zh) * 2014-06-14 2015-12-30 北京金山安全软件有限公司 一种对图片进行组合生成视频的方法及系统
US10210598B2 (en) 2015-06-17 2019-02-19 Samsung Electronics Co., Ltd. Electronic device for displaying a plurality of images and method for processing an image
CN105528451A (zh) * 2015-12-23 2016-04-27 北京奇虎科技有限公司 一种相册照片的处理方法和装置
JP2018117329A (ja) * 2017-01-20 2018-07-26 オリンパス株式会社 情報取得装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6324545B1 (en) * 1997-10-15 2001-11-27 Colordesk Ltd. Personalized photo album
US6636648B2 (en) * 1999-07-02 2003-10-21 Eastman Kodak Company Albuming method with automatic page layout
AUPQ464099A0 (en) * 1999-12-14 2000-01-13 Canon Kabushiki Kaisha Emotive editing system
JP4208113B2 (ja) * 2000-04-19 2009-01-14 富士フイルム株式会社 アルバム作成方法および装置並びに記録媒体
JP2004139575A (ja) * 2002-09-27 2004-05-13 Fuji Photo Film Co Ltd アルバム作成装置および方法並びにプログラム
US7362919B2 (en) * 2002-12-12 2008-04-22 Eastman Kodak Company Method for generating customized photo album pages and prints based on people and gender profiles
US7356778B2 (en) * 2003-08-20 2008-04-08 Acd Systems Ltd. Method and system for visualization and operation of multiple content filters
JP4455302B2 (ja) * 2003-12-25 2010-04-21 富士フイルム株式会社 画像編集装置および方法並びにプログラム
US7441186B2 (en) * 2004-01-23 2008-10-21 Microsoft Corporation System and method for automatically grouping items
US7542588B2 (en) * 2004-04-30 2009-06-02 International Business Machines Corporation System and method for assuring high resolution imaging of distinctive characteristics of a moving object
AU2004233539B2 (en) * 2004-11-30 2007-12-13 Canon Kabushiki Kaisha A Method of Displaying a Tool Tip with Filtered Contents
JP2006293986A (ja) 2005-03-15 2006-10-26 Fuji Photo Film Co Ltd アルバム作成装置、アルバム作成方法、及びプログラム
JP2006277065A (ja) 2005-03-28 2006-10-12 Fuji Photo Film Co Ltd レイアウト編集システム及びレイアウト編集方法
JP4762731B2 (ja) * 2005-10-18 2011-08-31 富士フイルム株式会社 アルバム作成装置、アルバム作成方法、およびアルバム作成プログラム
JP4446983B2 (ja) * 2006-07-07 2010-04-07 富士フイルム株式会社 画像処理装置及び画像処理プログラム
US20110029635A1 (en) * 2009-07-30 2011-02-03 Shkurko Eugene I Image capture device with artistic template design

Also Published As

Publication number Publication date
EP2105930B1 (en) 2013-12-25
CN101546588B (zh) 2012-10-10
US20090244314A1 (en) 2009-10-01
AU2009200887A1 (en) 2009-10-15
EP2105930A1 (en) 2009-09-30
US8502887B2 (en) 2013-08-06
JP2009239691A (ja) 2009-10-15
CN101546588A (zh) 2009-09-30
AU2009200887B2 (en) 2011-03-10

Similar Documents

Publication Publication Date Title
JP4929215B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP4186678B2 (ja) 印刷ジョブ管理装置およびこれに用いられるプログラム並びに印刷ジョブ管理方法
EP1800465B1 (en) Methods and systems for managing images
JP2008035328A (ja) テンプレート生成装置、画像配置装置、変更テンプレート生成装置およびそのプログラム
JP2008206138A (ja) 撮像装置および画像処理装置
US20180146105A1 (en) Information processing apparatus and method of controlling the same
US8629922B2 (en) Image capturing apparatus and method of controlling the same
JP2010282365A (ja) レイアウト編集装置及びその制御方法、プログラム
US7995865B2 (en) Apparatus and method for laying out images and program therefor
JP2009246822A (ja) 画像編集方法及びその装置
JP5336759B2 (ja) 画像出力装置及び画像出力方法
EP2811732B1 (en) Image processing apparatus, image processing method, computer-readable storage medium and program
JP6929046B2 (ja) 画像処理装置、画像処理方法、及びコンピュータプログラム
JP2003208300A (ja) ファイル管理プログラム、該ファイル管理プログラムを記録した記録媒体、およびファイル管理方法
JP3862591B2 (ja) 画像処理装置、画像処理方法
KR100571961B1 (ko) 이미지를 가공/편집하여 일괄적으로 인쇄 출력하는 방법및 그 장치
KR101464529B1 (ko) 이미지 출력 방법
JP2010021763A (ja) ネットワーク管理装置およびネットワーク管理方法
JP2006157825A (ja) 画像選択方法及び画像選択装置
JP4756149B2 (ja) フォトアルバム作成システム及びフォトアルバム作成コンピュータプログラム
JP4405988B2 (ja) 画像表示制御装置、画像表示装置の制御方法、及びプログラム
JP2007293655A (ja) 文書処理装置、電子文書の出力処理方法、およびプログラム
JP2014082741A (ja) 情報処理装置、その制御方法、情報処理方法およびそのプログラム
JP2013228962A (ja) 情報処理装置、情報処理方法、プログラム、情報処理システム
JP5518172B2 (ja) 画像投射装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100201

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20100630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110322

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4929215

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3